Anthropic向METR六人开放员工级权限
先了解这件事
Anthropic宣布向非营利评估机构METR的六名研究员开放员工级访问权限，供其独立评估Anthropic的模型、安全实践与风险管理。METR团队获得Anthropic发放的公司笔记本电脑、办公空间，以及与其内部风险评估团队大致相当的工具访问权限。 METR将自行发布评估结果，Anthropic放弃阻止发表的权利，但可要求对客户数据、律师-客户保密信息及模型架构等预先划定的窄类别信息进行脱敏；METR可公开说明脱敏情况并评价其是否合理。Anthropic称并非所有安全相关信息都能公开，因为可能帮助攻击者或涉及商业敏感。 作为对比，SecureBio、Accenture、Faculty等评估方目前获得的访问权限更少，发布限制更严，需经Anthropic批准；Anthropic已与Hugging Face开始初步商谈。
AI 根据报道生成 · 15 天前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Ars Technica · AIAnthropic 向外部 AI 监督机构开放“类员工”访问权限
Anthropic 向外部 AI 监督机构开放了类似员工的访问权限，该机构可无需 Anthropic 批准自行发布调查结果。材料未说明该机构名称、访问范围与权限生效时间。
- The DecoderAnthropic 向 METR 开放内部权限审查其模型与安全实践
Anthropic 宣布向非营利机构 METR 的一个团队开放内部权限，供其审查自家 AI 模型与安全实践。六名 METR 员工获得公司硬件、办公空间和内部工具访问权，Anthropic 称其权限大致相当于自家风险团队。客户数据、受律师-客户保密特权保护的信息以及模型架构细节仍不可访问。METR 将独立发布审查结果，Anthropic 可在预设类别内要求删改，但 METR 可公开说明其认为删改是否合理。Anthropic 表示并非所有安全相关信息都能公开，因为可能帮助攻击者或涉及商业敏感。
- TechCrunch · AIAnthropic 向 METR 六名研究员开放员工级访问权限
Anthropic 宣布向非营利评估机构 METR 的六名研究员开放员工级访问权限，用于独立评估其模型、安全实践与风险管理。METR 团队获得 Anthropic 发放的公司笔记本电脑、办公空间，以及与其内部风险评估团队大致相当的工具访问权限，公司鼓励员工像对待负责对齐风险的同事一样与他们共享信息。METR 将自行发布对 Anthropic 风险、事件和实践的评估，Anthropic 放弃阻止发表的权利，但可要求对客户数据、律师客户保密信息及模型架构等预先划定的窄类别信息进行脱敏，METR 可公开说明脱敏情况并评价其是否合理。