跳到正文

技术方向

安全对齐 最新动态

AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。

23 条精选近 30 天 19 条共收录 142 条

更新

精选归档 · 第 2 页

9月30日周三第 21–23 条
  1. Google DeepMind 精选AI 评分66

    Google DeepMind 推出 SynthID Bio,为 AI 生成蛋白质嵌入可验证水印

    Google DeepMind 推出 SynthID Bio,把水印技术带入合成生物学,将不可感知的签名直接嵌入生物代码,使其在数字模型和合成出的实体蛋白质上都能被验证,同时保持生物功能。

    关注点

    SynthID 水印从图像扩展到合成生物,读者可了解其在蛋白质设计与 DNA 合成筛查中的验证思路。

9月25日周五
  1. GitHub Blog · AI & ML 精选AI 评分62

    GitHub Security Lab 发布 Fuzzing Taskflow 智能体流水线

    GitHub Security Lab 发布 Fuzzing Taskflow,一个面向 C/C++ 项目的自主模糊测试流水线,只需指向一个 GitHub 仓库,它就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness,最后对每个崩溃做去重与漏洞报告。

    关注点

    原文完整披露了自主模糊测试流水线的架构与覆盖反馈循环,读者可据此判断 LLM 智能体在安全自动化中的分工边界。

9月24日周四