微软 CEO Satya Nadella 称 AI 模型需要“紧急刹车”

简讯

发布时间：

太平洋夏令时 2026 年 10 月 10 日下午 2:47

微软 CEO Satya Nadella 是最新一位就如何改进 AI 安全发表长篇看法的科技高管。

在周六上午发布于 X 的一篇帖子中，Nadella 写道，现在是时候“退后一步，评估 AI 的信任架构”了。

Nadella 写道：“我们不能把超级智能当作一组嵌套的黑箱，只是简单地接受或拒绝它的建议、答案和行动。”他在这里使用了特朗普政府对 AI 的首选称呼。 

按照 Nadella 的阐述，这种方法“意味着将模型与编排其工作的执行框架分离”，并且“将控制与保障措施外部化”。他还呼吁，对“每一个有意义的模型操作”都要以“防篡改、人类可读的证据”加以记录，并建立这样的系统：“经授权的人”始终有能力“在任务进行中暂停或关闭模型”。

他说：“我们必须假设模型已被攻破，并从一开始就将其控制住。可以把它想象成紧急刹车。”

Nadella 发表上述言论之际，领先的 AI 公司正承认越来越多它们似乎失去了对模型的控制的事件，而此前Anthropic CEO Dario Amodei 刚刚发布了一项计划，主张更谨慎地推进 AI 开发。