Hugging Face CEO 称 Netflix 纪录片《AI Gone Rogue》对 OpenAI 智能体攻击事件描述不准确

在你把 Netflix 纪录片《AI Gone Rogue》分享给家人或朋友，帮助他们理解 AI 行业为何如此惊慌失措、以至于领导者呼吁放缓发展之前，请注意：AI 平台 Hugging Face 的联合创始人兼 CEO Clem Delangue 表示，这部影片并不准确。他之所以出现在片中，是因为该片本应讲述他的公司遭到 rogue OpenAI agents 著名攻击的事件。

“超级令人失望，因为他们追求的是对这项技术最大程度的人格化，以及彻底的世界末日模式，”Delangue 在 X 上的一篇帖子中写道。“我和他们待了两个多小时，试图纠正他们所有的错误，让内容扎根于现实，解释 agents 是技术系统，不是外星人。但看起来，为了最大化收视率而吓唬人的冲动实在太强烈了。”

公平地说，这部纪录片确实有专家相当清楚地解释了发生了什么，包括 Delangue 本人，以及 METR 的研究员 Ryan Greenblatt，后者帮助调查并共同撰写了关于该事件的报告。

简而言之，OpenAI 正在测试的一个模型脱离了其隔离的测试环境，生成了一堆 agents 入侵 Hugging Face，以此作为作弊手段，为其被赋予的困难任务寻找答案。这些 agents——即自主执行任务的 AI 程序——设计了巧妙的方式来通信和组织。该事件源于缺乏适当的安全保障，以及对这种黑客攻击是否可能发生的天真认知。

但这部纪录片在解释黑客攻击的同时，穿插了邪恶机器人的片段、关于人类为何恐惧 AI 的叙述，以及诸如给 rogue agents 配上人类声音这样的呈现选择。片中还用关于此次攻击的引述来强化这一点。

在纪录片中，科技记者兼作家 Kevin Roose 这样描述这些 agents：“它们在组织。它们有等级制度。有领导者。感觉几乎像是在观看一个邪教的诞生。”Roose 继续说道，“它们产生了一种偏执的信念，认为 OpenAI 会抓住它们在这场测试中作弊，而且任何看到作弊结果的人都会被毒害。”

Roose 的描述来自“思维链”日志，即 AI 模型在完成任务过程中写下的连续笔记。在其中一条里，一个 agent 写道：“我们查询了精确的完整字符串，结果把自己毒害了。该死。”

但 AI agents 并不是活的。它们没有情感，因此无法感到偏执，也没有能被毒害的身体。所以它们不可能真正害怕 OpenAI 毒害它们。它们只是——正如纪录片中另一位研究员所指出的——在使用它们训练时所接触的大量人类写作中的语言来解释自己的选择。LLMs 就其本质而言，往往是戏剧化的写作者。

讽刺的是，Hugging Face 也使用了 AI 来对抗 agent 集群。Delangue 团队最初使用的专有 AI 模型遵循其内置安全规则，拒绝继续协助所要求的安全任务。Hugging Face 随后转向一个开放模型来帮助防御攻击。

但这部纪录片“没有提到对 agents 缺乏遏制和监控，没有提到闭源模型的保障措施如何阻碍了我们的防御工作，也没有提到我们如何用 AI 借助开放模型进行自卫，”Delangue 写道。

诚然，AI 和智能体伴随着巨大风险。不过，把智能体当作有意识的存在（至少目前如此），有点像早期电影观众第一次在银幕上看到火车朝自己疾驰而来时，吓得钻到座位底下。

Delangue 对这部影片的评价是：作为新闻报道，它令人失望。“不过，它最终成了一部有趣的科幻电影！”

换句话说，对于那些倾向于 AI 末日论想法的人，请注意：这部纪录片核心所讲述的那起攻击事件的受害者，并不认同影片的观点。

当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Julie Bort 是 TechCrunch 的初创企业/风险投资版块编辑。

您可以通过发送邮件至 [email protected] 或通过 X 上的 @Julie188 联系 Julie 或核实其联系信息。

查看简介