MIT Technology Review · AI· Arthur Holland Michel·· 24 天前AI 评分36
我们高估了 AI 说“不”的能力
We’re putting too much faith in AI’s ability to say no
AI 导读
MIT Technology Review 文章指出，AI 的拒绝机制已成为 AI 安全的核心，但并不可靠。
摘要与补充说明
模型被训练拒绝大量有害提示词，却仍保留暴力与网络攻击等能力，且拒绝机制基于概率，可能被绕过。文章还提到 OpenAI 曾组织红队测试 ChatGPT，并质疑由企业单方面划定拒绝边界的做法。
此来源暂仅展示摘要。