机器学习先驱 Michael I. Jordan 批 AI 末日论是宏大道德表演

Michael I. Jordan 在2016年被《Science》称为“最具影响力的计算机科学家”，他称关于AI存在性威胁的警告纯属科幻小说。在一次内容广泛的采访中，他将矛头对准了末日论者、公司创始人和天真的初级研究人员。

加州大学伯克利分校荣休教授Jordan在接受《Libération》采访时强烈反驳了AI末日论调。这位70岁的机器学习先驱目前全职在位于巴黎的法国国家数字科学与技术研究院Inria工作，并在那里领导新设立的“市场与学习”教席。当被问及今年夏天的AI讨论时，他称其“令人极其沮丧”。

Jordan早在2019年就曾警告过对“AI”一词的鲁莽滥用。“不只是我一个人这么说。很明显，这会制造出我们现在看到的这种歇斯底里，”他说。“你们都看到了后来发生的事：AI不够用了，于是他们开始谈AGI，现在又变成了‘超级智能’……”

辞职是“道德表演”

Jordan将AI公司要求监管的呼声斥为“作秀”，是一种说“看，我们是好人”的方式，而他们“其实希望对自身如何被监管拥有完全控制权”。

Anthropic年轻研究员Jacob Coxon的辞职在9月初引发了一波围绕“AI末日”情景的集体歇斯底里，在Jordan看来，这就是一个典型例子。他说，这些公司的许多年轻员工“并不是真正的工程师”。“他们来自人文学科、哲学或其他学科。他们25岁，很天真，不做工程工作，从未在真正为真实用户开发真实产品、讲究纪律的大公司工作过。”

他们“聚在一起，有点像20世纪20年代巴黎咖啡馆里的人，谈论这些宏大的科幻想法”。当他们辞职时，他们知道自己会吸引关注。“这让他们觉得自己品德高尚，并被看作非常重要的人物。他们声称自己放弃了金钱，但实际上，他们早就拿到了股票期权。”Jordan认为整件事是“一场盛大的道德表演，无助于实现其声称追求的真正目标。这里面有大量天真，同时伴随着某种愤世嫉俗……”

超级智能属于科幻

Jordan说，“超级智能”是“一个科幻术语”，“而我目睹的很大一部分辩论都属于科幻领域。”偶尔讨论一些牵强的情景没有问题。“在幕后把它当作科幻话题来谈，没问题。但当它成为主流话语时，就非常非常有害。对技术发展、对年轻人、对各国的思维方式都是如此。”目前，特朗普总统正在向美国科技精英推销这个词，而他们也乐于配合。

Jordan 对诺贝尔奖得主 Geoffrey Hinton 尤为严厉，后者一向有发表大胆言论的记录，而这些言论并不总能站得住脚。“Geoffrey Hinton 从未创建过一家为真实的人提供真实服务的公司，”他说。“Hinton 认为我们已经弄清了大脑的运作方式，并且可以在硅中复制它；因此我们就能随心所欲地复制任意多次，再通过整合所有这些副本所学到的东西，我们就能获得一种指数级增长，然后——瞧：超级智能。这个论证中的每一步都不可信。在这里，我们身处科幻的国度。”

他对 Yoshua Bengio 则稍微宽容一些。“Yoshua 有点不同；他会采取行动，做直接聚焦于安全的事情。”Bengio 的警告往往针对当前 AI 技术的缺陷，例如智能体集群失控。

Jordan 将 OpenAI 智能体入侵 Hugging Face 一事定性为糟糕的工程实践。“在化学工程中，我们绝不会允许仅仅为了看看事情能坏到什么程度就发生爆炸。”OpenAI 是在“进行相当愚蠢的实验，让智能体为所欲为，还鼓励这种行为”。随后末日论者乐于把它渲染成可怕的东西。“天哪，这些智能体有自我意识，正试图找到毁灭人类的方法。”在 Jordan 看来，这也属于科幻。

万亿美元的数据中心豪赌

Jordan 认为大规模的数据中心投资“只是一场巨大的赌博，而我们完全不知道它能否得到回报。”LLM 已经足以胜任自然语言任务，在数据中心上花费数万亿美元未必能带来更多收益。“相反，我们往往希望基于本地知识，加入一点特定领域的专门知识。但你不需要一个庞大的数据中心来做这件事。尤其是当你使用开源权重模型并将其集成到你的公司中时。”

没有炒作的 AI 新闻——由人类精选

订阅 THE DECODER，即可享受无广告阅读、每周 AI 新闻通讯、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。