Anthropic 向 METR 开放内部权限审查其模型与安全实践
Anthropic gives METR inside access to audit its AI models and safety practices
AI 导读
Anthropic 宣布向非营利机构 METR 的一个团队开放内部权限，供其审查自家 AI 模型与安全实践。
摘要与补充说明
六名 METR 员工获得公司硬件、办公空间和内部工具访问权，Anthropic 称其权限大致相当于自家风险团队。客户数据、受律师-客户保密特权保护的信息以及模型架构细节仍不可访问。METR 将独立发布审查结果，Anthropic 可在预设类别内要求删改，但 METR 可公开说明其认为删改是否合理。Anthropic 表示并非所有安全相关信息都能公开，因为可能帮助攻击者或涉及商业敏感。
正文· AI 翻译
Anthropic 宣布，已允许非营利组织 METR 的一个团队进入内部，审查其 AI 模型和安全实践。六名 METR 员工获得了公司硬件、办公空间以及内部工具的使用权限，Anthropic 称这使他们大致与自家风险团队处于同等水平。
客户数据、受律师-客户保密特权保护的信息以及模型架构细节仍不可访问。METR 将独立发布其调查结果。Anthropic 表示，它可以要求对某些预定义类别的内容进行删改，但 METR 可以自由公开表示其是否认为这些删改是合理的。
Anthropic 主张，并非所有与安全相关的信息都能公开，原因要么是可能帮助攻击者，要么是涉及商业敏感。与 METR 的协议比该公司向其他外部审查者提供的权限更进一步。SecureBio、Accenture 和 Faculty 迄今获得的访问权限更少，可发布内容的限制也更严格，Anthropic 已开始与 Hugging Face 进行早期谈判。此举是在 Anthropic 签署《超级智能白宫协议》之后做出的，该协议包括与外部审查者合作的承诺。
没有炒作的 AI 新闻——由人类精选
订阅 THE DECODER，享受无广告阅读、每周 AI 新闻简报、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。