微软推出 Guardian Agents 等安全功能，称前沿模型不可信任

微软周一推出了新的安全功能，旨在保护企业免受日益增长的AI智能体威胁。此次发布正值微软持续警告企业注意AI和智能体危险之际。

或许最引人注目的新增功能是Guardian Agents，这是一项旨在监控企业所使用的AI智能体的新功能。Guardian Agents是6月推出的产品Project Perception的一部分。

Project Perception是微软对Anthropic的Mythos和Fable等强大黑客模型以及OpenAI的安全漏洞扫描系统Daybreak的回应。Project Perception最初推出了三类智能体：一类是像黑客一样发起攻击的“红队”，一类是检测红队并评估其发现漏洞的“蓝队”，还有一类负责修复漏洞的“绿队”。

该产品的设计基于一个假设：AI黑客来自公司外部。但最近，微软CEO Satya Nadella一直警告说，AI敌人可能正是企业已部署并付费使用的智能体，就像一名 rogue 人类员工一样，也就是所谓的“内部威胁”。

本月早些时候，在其私人博客中，Nadella警告说，现在是时候停止信任AI模型提供商了，即使它们对其智能体产品提供安全保障。他希望企业实施不受AI实验室控制的独立系统，来监视和控制这些AI实验室产品所启动的智能体。

“我们正在部署这些复杂的智能体系统和模型，让它们访问我们最敏感的数据，并赋予它们代表我们采取关键任务行动的能力！”他写道。“我们根本无法将智能代表我们所做之事的责任外包出去。模型提供商的保证并不能免除我们的这一责任。……换句话说，我们需要将智能的供应与其控制权分开。”

在宣布Guardian Agents时，微软安全业务负责人Hayete Gallot说得更加直白。

“不幸的是，前沿模型，无论其来源如何，都不能被信任，”她写道，并补充说这并不是因为它们恶意或容易被黑客攻击，而是因为它们不可预测。它们被训练来完成的任务，而不是遵循“组织规范或判断”。

除此之外，它们往往被授予最高权限，可以访问可能造成严重损害的数据和工具。

微软的解决方案既令人意外，又符合自身利益。令人意外的一面是，微软与OpenAI和Anthropic关系密切，对两者都有投资。OpenAI也是其最大的云客户之一，而微软拥有自己的AI实验室开发模型。因此，微软正在散布对其部分自身商业利益的不信任。

符合自身利益的一面是，微软希望企业从它这个云提供商那里购买智能体安全产品，而不是从Anthropic和OpenAI购买。但抛开利益冲突不谈，其逻辑是合理的。监控智能体行为的软件应该与智能体供应商分开，就像审计师应该独立于他们所审计的组织一样。

或者正如Nadella所说：“我们需要将智能的供应与其控制权分开。”

微软目前正通过多种方式抓住这一商业机会。除了 Guardian Agents 之外，它还为其 Microsoft Defender 产品新增了代理检测功能，能够发现员工带入工作场所的多达 60 种代理，包括 Claude Code、Codex 和 OpenClaw。它还新增了一些功能，用于限制代理对数据和系统的访问，并根据任务动态调整代理权限。这包括在代理似乎正在做出高风险决策时要求人工审批。

将代理视为不可信内部人员的这一理念也正在整个行业中逐渐盛行。

微软是 Nvidia 新推出的 Open Agent Safety Platform 的创始成员之一，该平台获得了 100 多家其他科技公司的支持。该平台将代理隔离在安全环境中，并可通过硬件监控和阻止其行为，功能类似于一个终止开关。此前，微软还发布了专为代理打造的新款 Surface Laptop Ultra PC，该产品运行在 Nvidia 芯片上，并内置了代理安全与控制功能。

当您通过我们文章中的链接进行购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Julie Bort 是 TechCrunch 的初创企业/风险投资台编辑。

您可以通过发送电子邮件至 [email protected] 或在 X 上通过 @Julie188 联系或核实 Julie 的外联信息。

查看简介