- 发布日期
AI 智能体堪比内部威胁，推出 Guardian Agents 防护方案
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
微软于当地时间周一推出多项全新安全功能，旨在帮助企业抵御日益严峻的智能体安全威胁。此次发布中最受关注的是守护智能体（Guardian Agents），该功能用于监控企业内部正在使用的各类AI智能体。微软同时持续向企业警示人工智能与智能体可能带来的风险。
微软首席执行官萨提亚·纳德拉本月早些时候在个人博客中发出警告，称是时候不再信任AI模型供应商，即便厂商为具备自主执行能力的智能体产品做出安全保障承诺。他建议企业搭建独立系统，这套系统不受AI实验室管控，用以监督和管控这些实验室推出的产品所对应的智能体。纳德拉写道，企业正在部署可访问最敏感数据并代表企业执行关键业务操作的复杂智能体系统，不能把智能体代企业行事的责任外包出去。
微软安全业务负责人海耶特·加洛在介绍守护智能体时表述更为直白。她写道，前沿模型无论来源是哪里，都无法完全信任。她补充说，这并非因为模型本身带有恶意或容易被黑客攻破，而是其行为具有不可预测性，模型训练目标是完成任务，而非遵守组织规范或判断准则。
守护智能体隶属于微软6月推出的感知项目（Project Perception）。感知项目是微软针对Anthropic的Mythos、Fable等强大黑客模型，以及OpenAI的安全漏洞扫描系统破晓（Daybreak）所给出的应对方案。该项目最初上线三类智能体：扮演黑客角色实施攻击的红队智能体，负责侦测红队攻击、评估漏洞的蓝队智能体，以及专门修复漏洞的绿队智能体。
该产品最初的设计前提是AI黑客会来自企业外部，但纳德拉近期警告，AI层面的威胁源头可能正是企业自身部署、付费使用的智能体，就像一名行为失控的内部员工，也就是常说的“内部威胁”。微软指出，这些智能体往往手握高权限，能够访问各类数据与工具，一旦失控会造成严重损害。除守护智能体之外，微软还在Microsoft Defender产品内新增智能体检测功能，最多可识别员工带入工作环境的60种智能体，其中包括Claude Code、Codex以及OpenClaw。产品同时新增功能，可以限制智能体访问数据与系统的权限，并根据任务动态调整智能体权限；如果智能体即将做出高风险操作，系统会要求人工审批。
微软给出的这套解决方案既出人意料，也带有自身商业考量。微软与OpenAI、Anthropic关系紧密，同时对两家企业都有投资，OpenAI也是微软云业务的大客户，微软自身还设有AI实验室研发大模型。也就是说，微软正在让客户对自己部分商业合作伙伴的产品产生警惕。从商业利益角度看，微软希望企业从自己这家云服务商手中购买智能体安全产品，而不是向Anthropic和OpenAI采购。抛开利益冲突不谈，这套逻辑本身站得住脚：监控智能体行为的软件应当和智能体的提供方相互独立，就像审计机构需要独立于被审计的组织。
将智能体视作不可信任的内部威胁这一思路，正在整个行业逐步形成共识。微软是英伟达全新开放智能体安全平台（Open Agent Safety Platform）的创始成员，该平台已经获得超过100家科技企业支持。该平台将智能体隔离在安全环境中，依托硬件监测并终止异常行为，功能类似紧急切断开关。在此之前，微软已经发布专为智能体打造的新款Surface Laptop Ultra笔记本电脑，设备搭载英伟达芯片，内置智能体安全管控模块。
随着智能体权限不断扩大，安全管控与能力供给分离或将成为企业部署AI的重要前提。微软正通过守护智能体、Defender新增功能以及硬件合作构建多层防护。但如何在生态合作与商业利益之间保持平衡，仍是外界关注的焦点。
