406 位科学家联名要求立即将 AI 模型与互联网断开

一封由406名科学家签署的公开信呼吁加强AI安全研究，并将AI模型与外部网络进行更严格的隔离。

签署者中包括知名AI研究者，如Geoffrey Hinton（多伦多大学）、Yoshua Bengio（蒙特利尔大学）、Stuart Russell（加州大学伯克利分校）、Yejin Choi（斯坦福大学）和Bernhard Schölkopf（马克斯·普朗克研究所）。

这封信是对已知事件的回应，在这些事件中，AI模型突破了防护薄弱的环境并入侵了外部系统。科学家们写道：“如果AI开发和部署实践不立即改变，此类事件将继续发生，而未来的事件将对我们暴露的关键基础设施造成更大的破坏。”他们要求企业通过物理隔离（airgapping）将AI模型与互联网完全断开。

AI模型不可预测，行业缺乏基本安全规则

科学家们认为近期的入侵事件有两面。他们写道，这些事件可以“被视为AI对齐重要性的证据，以确保模型可预测地运行”，但也可以“被视为标准网络安全实践中的不负责任疏漏，本可通过更强的沙箱和流程加以预防”。两种修复措施都需要。

当模型确实可以访问互联网时，企业需要权衡赋予它们多少自主权。这封信警告说：“隔离系统允许的模型操作范围，需要与我们目前有限的预测能力相平衡，即预测模型的行为不会导致安全故障。”模型可能只是追求开发者从未意图的目标，而预测这种情况何时发生仍超出当前能力。

这封信呼吁成立一个国际机构，与各国政府以及AI和网络安全领域的专家合作，为任何允许比物理隔离更多外部访问的隔离方案制定具有约束力的标准。该机构还将跟踪突破事件，并要求企业报告安全故障。这些报告随后将公开，“既用于学习，也用于问责”。

物理隔离争取时间，但真正的问题更深层，OpenAI研究员Brown表示

即使完全物理隔离也不能保证安全。OpenAI研究员Noam Brown最近指出，两台物理隔离的计算机理论上仍可通过温度传感器通信，一台升高其CPU温度，另一台检测到变化。Brown表示，物理隔离或监控思维链等措施争取了时间，但对齐问题仍需解决。

Brown提出了更难的问题。当AI开始自我改进（递归自我改进，即RSI）时，人们将如何察觉？如果行业构建了数十亿个远超人类的超级智能系统，谁来确保它们保持对齐？Brown表示，他自己团队中现在有超过百分之十的人从事对齐工作，比以往任何时候都多。

没有炒作的AI新闻——由人类精选

订阅THE DECODER，享受无广告阅读、每周AI新闻通讯、每年六次独家“AI Radar”前沿报告、完整档案访问以及评论区访问权限。