跳到正文

#安全/对齐

重要进展,按时间持续更新

阅读日报
  1. Mistral AI 精选AI 评分87

    Mistral 开源 1 万亿参数多模态模型 Mistral Large 4(Le Chonk)

    Mistral 发布 Mistral Large 4(Le Chonk)的开放权重,这是一个 1 万亿参数的原生多模态模型,在公开预览基础上继续做强化学习,编码与防御性网络安全能力提升。

    在 Artificial Analysis Coding Agent Index 上得分 48%,与开源领先模型 GLM-5.3 基本持平,但每任务平均少用 47% token;Terminal-Bench 4.0 从预览版提升 13 个百分点至 41%,输出 token 减少 30%。

    图片来源:Mistral AI
    关注点

    Mistral 公开了 1 万亿参数多模态模型的权重,并给出编码与安全基准及三种推理档位,可据此评估自托管成本。

  2. Google DeepMind 精选AI 评分82

    Google DeepMind 发布 Gemini 4 Carbon 模型

    Google DeepMind 发布新一代前沿模型 Gemini 4 Carbon,称其在网络安全与长周期任务能力上为自家最强模型,在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一。

    该模型在漏洞发现基准 SEC-bench Pro 上取得 88.2%,在利用验证基准 ExploitGym 上取得 54.8%,在补丁生成基准 CWE-bench 上取得 71.0%;WebDev Arena 上提升 89 elo 至 1769 分、排名第 4。

    关注点

    官方披露了 Carbon 在漏洞发现、利用验证与补丁生成上的基准成绩,以及先向网络安全防御方开放的分阶段策略。

  1. Google DeepMind 精选AI 评分61

    Google DeepMind 与新加坡政府合作推出端侧诈骗检测模型

    Google DeepMind 与新加坡政府科技局(GovTech)合作,基于轻量级 Gemma 模型微调出可在普通智能手机上本地运行的诈骗检测模型,用于识别冒充公共机构、银行和本地人物的诈骗对话。

    关注点

    端侧运行、不读取云端消息的诈骗检测方案,为端到端加密场景下的隐私保护提供了可参考的落地路径。

  2. Google DeepMind 精选AI 评分80

    Google DeepMind 发布 Gemini 4 Argon 并公布安全防护方案

    Google DeepMind 开始广泛推送 Gemini 4 Argon,并同步扩展 Fairwind Program 给更多可信网络安全防御方。

    该模型在 12 个端到端模拟网络攻击场景中全部通过,上一代为 5 个;在对抗测试集上违规请求减少近两倍,Gray Swan 间接提示注入基准上 15 次自适应攻击的成功率降至 0.7%。

    关注点

    官方披露 Gemini 4 Argon 在网络安全与生物风险上的防护设计,可了解前沿模型安全护栏的具体做法。

  1. GitHub Blog · AI & ML 精选AI 评分60

    GitHub 推出基于 ModernBERT 的密钥检测分类器,扩展推送保护

    GitHub 发布与 Microsoft Applied Sciences 合作微调的 ModernBERT 分类器,用代码上下文识别无固定格式的密钥,可在 2 毫秒内评估一批候选密钥,官方称有望让可拦截的密钥数量翻倍以上。

    关注点

    GitHub 用九个季度数据说明密钥泄露与代码量同步增长,并给出把检测成本压到 2 毫秒内的新分类器思路。

  1. Google Research 精选AI 评分62

    Google 发布基于 TEE 的新一代联邦学习系统,Gboard 已采用

    Google Research 公布新一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供可远程验证和审计的保证,Gboard 已采用该系统上线英语和日语下一词预测模型。

    关注点

    Google 公布基于 TEE 的新一代联邦学习系统设计,并给出 Gboard 已上线的实际效果,可了解隐私可验证训练的一种工程路径。

  1. Google DeepMind 精选AI 评分66

    Google DeepMind 推出 SynthID Bio,为 AI 生成蛋白质嵌入可验证水印

    Google DeepMind 推出 SynthID Bio,把水印技术带入合成生物学,将不可感知的签名直接嵌入生物代码,使其在数字模型和合成出的实体蛋白质上都能被验证,同时保持生物功能。

    关注点

    SynthID 水印从图像扩展到合成生物,读者可了解其在蛋白质设计与 DNA 合成筛查中的验证思路。

  1. GitHub Blog · AI & ML 精选AI 评分62

    GitHub Security Lab 发布 Fuzzing Taskflow 智能体流水线

    GitHub Security Lab 发布 Fuzzing Taskflow,一个面向 C/C++ 项目的自主模糊测试流水线,只需指向一个 GitHub 仓库,它就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness,最后对每个崩溃做去重与漏洞报告。

    关注点

    原文完整披露了自主模糊测试流水线的架构与覆盖反馈循环,读者可据此判断 LLM 智能体在安全自动化中的分工边界。

  1. Google DeepMind 精选AI 评分62

    Google DeepMind 为 Private AI Compute 引入安全服务端持久记忆

    Google DeepMind 公布 Private AI Compute 架构更新,将为其加入持久化的服务端记忆层,使 AI 助手能跨设备保留上下文,同时维持端侧级别的隐私标准。

    关注点

    Google 给出私有 AI 计算从无状态到持久记忆的架构变化,读者可了解云端隐私与跨设备连续性的取舍。

已经到底了