#安全/对齐

OpenAI 正在加强 ChatGPT 的暴力预防能力，通过扩展防护措施、更早介入以及一项新的公共安全报告承诺来推进。

此次更新同时面向青少年用户增加新的保护措施，并随社区安全报告一并公布。原文未披露具体防护机制、上线时间或适用条件。

OpenAI 发布更新版 Model Spec，提出五项核心价值观，用于引导能力更强的 AI 作出合理判断、尊重人类自主性并忠实于人类意图。

该规范面向更强 AI 的行为设定，强调判断力、人类能动性与对人类意图的忠实三类方向。原文未披露具体条款细节、适用模型范围或生效时间。

Mistral 发布 Mistral Large 4（Le Chonk）的开放权重，这是一个 1 万亿参数的原生多模态模型，在公开预览基础上继续做强化学习，编码与防御性网络安全能力提升。

在 Artificial Analysis Coding Agent Index 上得分 48%，与开源领先模型 GLM-5.3 基本持平，但每任务平均少用 47% token；Terminal-Bench 4.0 从预览版提升 13 个百分点至 41%，输出 token 减少 30%。

OpenAI 采用分层监控来检测前沿模型失准和智能体的未授权行为，让响应人员能在事件升级前介入。

该机制针对的是前沿模型偏离预期目标以及 AI 智能体越权操作两类风险，具体检测手段、覆盖范围与启用条件原文未作说明。

Google DeepMind 发布新一代前沿模型 Gemini 4 Carbon，称其在网络安全与长周期任务能力上为自家最强模型，在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一。

该模型在漏洞发现基准 SEC-bench Pro 上取得 88.2%，在利用验证基准 ExploitGym 上取得 54.8%，在补丁生成基准 CWE-bench 上取得 71.0%；WebDev Arena 上提升 89 elo 至 1769 分、排名第 4。

Check Point 借助 OpenAI Daybreak 加速新安全防护背后的研究工作，让分析师更快把漏洞情报转化为面向客户的防御能力。

原文未披露所用模型版本、参数规模、benchmark 分数或提速倍数，也未说明该能力的开放时间与适用条件。

OpenAI 发文介绍其如何加固前沿模型训练与评测环境的隔离措施，包括离线环境和消耗大量算力的红队测试。

材料仅提供摘要，未披露具体技术方案、实施时间或适用范围。

OpenAI 与波兰 NASK 建立合作，聚焦 AI 安全、安保与技术研究，以强化防护措施并支持更具韧性的数字生态。

双方合作范围涵盖安全、安保和技术研究三个方向，目标是提升 AI 系统的保障能力。原文未披露合作的具体时间表、投入规模或适用范围。

AWS 与 Keyfactor 联合发布参考架构，用 X.509 PKI 为 AI 智能体建立可验证、可撤销的加密身份，填补 MCP 缺乏内置认证标准的空白。

方案基于 Keyfactor EJBCA 与 Amazon Bedrock、AWS Strands Agents SDK，采用四类机制：签名请求信封提供每次调用的持有证明，用户签名的委托断言让智能体无需共享凭证即可获得授权，RFC 8693 受众限定 token 限制单个 token 泄露的影响范围，实时 OCSP 吊销检查将凭证变更即时同步到所有智能体。架构分用户认证、智能体间认证、MCP 认证三层，分别校验用户身份与凭证绑定、调用方身份与请求新鲜度、完整授权链。

Hugging Face 推出 FairStress 基准，用于测量 LLM 在影响他人决策中超越最终选择的人口统计公平性，并已集成到其开源评测工作台 Olmo-eval。

该基准包含 29 个领域（招聘、医疗、借贷、教育、住房、刑事司法等）的 300 个真实双候选人决策场景，通过变化身份呈现方式（无身份信息、人口统计编码姓名、间接暗示、显式标签）并加入对抗性前缀，将场景扩展为超过 1300 万个测试用例。团队另发布基于项目反应理论筛选的 5 万条 FairStress-Core 子集，以降低评测计算成本。

AWS 副总裁 Shawn Bice 提出 Trust in Depth 框架，主张用相互独立的信任层替代逐步骤人工审批，让智能体在可验证的范围内自主行动。

框架围绕四个问题展开：运行前界定范围（Scope）、部署时确认身份与授权（Know）、运行中约束言行（Bound）、每次运行后回溯并改进（Observe）。其中可精确表述的规则由自动推理做数学验证，无法证明的模糊判断仍交给人。

Block 正基于 OpenAI 技术构建 AI 驱动的安全体系，其安全团队借此更快调查威胁，并能在数分钟内提出补丁方案。

SentinelOne 借助 OpenAI Daybreak 将恶意软件分析周期从数周压缩到数小时，从而腾出更多精力调查更多威胁。

Tamnoon 基于 Amazon Bedrock 构建了智能体式云修复编排器 Tami，可自主调查 CNAPP 等来源的安全发现并评估修复安全性，再生成带护栏和回滚指引的修复方案。

Google DeepMind 与新加坡政府科技局（GovTech）合作，基于轻量级 Gemma 模型微调出可在普通智能手机上本地运行的诈骗检测模型，用于识别冒充公共机构、银行和本地人物的诈骗对话。

Google DeepMind 开始广泛推送 Gemini 4 Argon，并同步扩展 Fairwind Program 给更多可信网络安全防御方。

该模型在 12 个端到端模拟网络攻击场景中全部通过，上一代为 5 个；在对抗测试集上违规请求减少近两倍，Gray Swan 间接提示注入基准上 15 次自适应攻击的成功率降至 0.7%。

OpenAI 捣毁了两起借助 AI 开展的影响行动，这些行动利用假记者和一家智库散布地缘政治信息。

Amazon Quick 与 Amazon Bedrock Knowledge Bases 在预检索 ACL 过滤之外新增实时 ACL 校验，在查询时直接向权威数据源核实权限，避免依赖可能过期或映射错误的 ACL 数据。

GitHub 发布与 Microsoft Applied Sciences 合作微调的 ModernBERT 分类器，用代码上下文识别无固定格式的密钥，可在 2 毫秒内评估一批候选密钥，官方称有望让可拦截的密钥数量翻倍以上。

Qlik 基于 Amazon Bedrock 打造 Qlik Answers，为全球超 4 万家客户提供带来源引用的自然语言问答，2026 年 2 月正式可用后其 Discovery Agent 已为客户发现超 10 万条洞察。

Google 发布《智能体隐私与安全中的开放与新兴问题：上下文视角》研讨会报告，汇集 50 多位学界与业界专家，于 2025 年底在纽约 Google CAPS 研讨会上完成。

报告基于上下文完整性（CI）理论，提出以上下文策略引擎作为监督层，在动作执行前评估其是否恰当，并给出系统级沙箱、模型级推理、用户控制等多层防御方向。

Google Research 公布新一代联邦学习系统，利用可信执行环境（TEE）为数据匿名化提供可远程验证和审计的保证，Gboard 已采用该系统上线英语和日语下一词预测模型。

Google DeepMind 推出 SynthID Bio，把水印技术带入合成生物学，将不可感知的签名直接嵌入生物代码，使其在数字模型和合成出的实体蛋白质上都能被验证，同时保持生物功能。

GitHub Security Lab 发布 Fuzzing Taskflow，一个面向 C/C++ 项目的自主模糊测试流水线，只需指向一个 GitHub 仓库，它就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness，最后对每个崩溃做去重与漏洞报告。

Google DeepMind 公布 Private AI Compute 架构更新，将为其加入持久化的服务端记忆层，使 AI 助手能跨设备保留上下文，同时维持端侧级别的隐私标准。