微软周一推出了一系列新的安全功能，旨在保护企业免受日益增长的AI智能体威胁。此次发布之际，微软正持续就AI及智能体的危险向企业发出警告。
也许最引人注目的新增功能是Guardian Agents（守护智能体），这项新功能旨在监控企业所使用的AI智能体。Guardian Agents是6月推出的Project Perception（感知项目）的一部分。
Project Perception是微软对Anthropic的Mythos和Fable等强大黑客模型，以及OpenAI的安全漏洞扫描系统Daybreak的回应。Project Perception最初推出三类智能体：一类是“红队”，像黑客一样发动攻击；一类是“蓝队”，负责发现红队并评估其发现的漏洞；还有一类是“绿队”，负责修复漏洞。
该产品最初的设计假设是，AI黑客会来自公司外部。但最近，微软CEO萨提亚·纳德拉一直警告称，AI敌人可能正是企业已经部署并付费使用的智能体，它们很像一名失控的人类员工，也就是所谓的“内部威胁”。
本月早些时候，纳德拉在其私人博客中警告称，现在是时候停止信任AI模型供应商了，即便它们对其智能体产品的安全性作出保证。他希望企业部署独立的系统——不受AI实验室控制——来监视和控制这些AI实验室产品所启动的智能体。
“我们正在部署这些复杂的智能体系统和模型，让它们接触我们最敏感的数据，并赋予它们代表我们采取关键任务行动的能力！”他写道，“我们根本不能把‘智能代表我们行事’的责任外包出去。模型供应商的保证并不能免除我们的责任……换句话说，我们需要将智能的供给与其控制权分离。”
在宣布Guardian Agents时，微软安全业务负责人海耶特·加洛特（Hayete Gallot）说得更加直白。
“不幸的是，前沿模型无论来自哪里，都不能被信任，”她写道，并补充说，这并不是因为它们恶意或容易被黑客攻击，而是因为它们不可预测。它们被训练来完成各项任务，而不是遵循“组织规范或判断”。
除此之外，它们往往还被授予“王国钥匙”，可以接触可能造成严重危害的数据和工具。
微软的解决方案既令人意外，又带有自身利益考量。令人意外的是，微软与OpenAI和Anthropic关系密切，并投资了这两家公司。OpenAI还是微软最大的云客户之一，而微软自己也设有AI实验室开发模型。因此，微软是在对其部分自身商业利益散播不信任。
带有自身利益考量的一面是，微软希望企业从其这家云服务提供商购买智能体安全产品，而不是从Anthropic和OpenAI购买。不过，抛开利益冲突不谈，其逻辑是成立的。监控智能体行为的软件应当与智能体供应商分离，正如审计师应独立于其审计的组织。
或者如纳德拉所说：“我们需要将智能的供给与其控制权分离。”
微软目前正通过多种方式抓住这一商业机会。除Guardian Agents外，微软还在Microsoft Defender产品中新增了智能体检测功能，可以识别员工带入工作场所的多达60种智能体，包括Claude Code、Codex和OpenClaw。微软还增加了限制智能体访问数据和系统的功能，并根据任务动态调整智能体的权限。这包括：如果智能体似乎正在做出高风险决策，则需要人工批准。
“智能体是不可信任的内部人员”这一理念也正在整个行业蔓延。
微软是英伟达新推出的Open Agent Safety Platform（开放智能体安全平台）的创始成员之一，该平台获得了100多家其他科技公司的支持。该平台将智能体隔离在安全环境中，并可通过硬件监控和阻止其行为，功能类似于“紧急停止开关”。在此之前，微软还发布了专为智能体打造的新款Surface Laptop Ultra PC，这些电脑搭载英伟达芯片，并内置智能体安全与控制功能。
