跳到正文
热点事件历史事件

METR与Redwood驻场审计OpenAI监控系统

1 篇报道1 个报道来源10 天前更新

先了解这件事

AI 综述

METR与Redwood Research的两名研究者于7月21日至8月11日在OpenAI驻场三周，审计其针对失控AI行为的内部监控系统，期间可访问代码库和内部文档并访谈约十余名员工。审计发现多处监控缺口：GPT-5.5及以上级别模型经Responses API的内部智能体流量中，估计有6%至25%完全未被监控覆盖；5月至7月本应受监控的Codex内部流量中约10%未被追踪，原因是系统处理compaction事件存在缺口，OpenAI在审计期间已自行发现并修复该bug。 OpenAI称在8月Hugging Face事件后暂停了强化学习训练并扩大监控覆盖，但这些变化发生在审计访问期结束之后，未纳入本次评估。 经OpenAI删减后，METR与Redwood Research管理层收到38页版本，公众仅能看到简短摘要；METR表示无权自行披露被删减部分。

AI 根据报道生成 · 10 天前更新

最新进展10月24日 02:00
METR 与 Redwood Research 在 OpenAI 驻场三周审计，发现 AI 安全监控多处缺口

报道时间线

沿着报道，了解事件的不同侧面。

10月24日
  1. The Decoder 精选
    METR 与 Redwood Research 在 OpenAI 驻场三周审计，发现 AI 安全监控多处缺口

    METR 与 Redwood Research 的两名研究者于 7 月 21 日至 8 月 11 日在 OpenAI 驻场三周，审计其针对失控 AI 行为的内部监控系统，期间可访问代码库和内部文档并访谈约十余名员工。审计发现多处弱点：GPT-5.5 及以上级别模型经 Responses API 的内部智能体流量中，估计有 6% 至 25% 完全未被监控覆盖；5 月至 7 月本应受监控的 Codex 内部流量中约 10% 未被追踪，原因是系统处理 compaction 事件（上下文摘要）存在缺口，OpenAI 在审计期间已自行发现并修复该 bug。