- 发布日期
发邮件等操作可先请求审批
- 作者

- 姓名
- 荷鲁斯快报
- 社交账号
微软宣布为其Copilot Studio平台引入一项关键的人工审批机制,以增强AI智能体的安全性和可控性。根据科技媒体NeoWin于9月3日发布的报道,这一调整将于9月开始推送,旨在确保AI智能体在执行敏感操作前获得用户的明确批准。该平台主要用于搭建和管理AI智能体,使其能够连接并操作邮件、工单处理、支付等关键业务工具。
此次更新的核心功能是,开发者现在可以为AI智能体调用的每个工具单独配置审批开关。当智能体尝试执行需要审批的操作时,系统会暂停任务并显示请求,详细说明智能体的意图。用户随后可以在操作实际执行前,选择批准、在整个会话中批准或直接拒绝该请求。这一设计为用户提供了实时干预和监督的窗口。
微软明确指出了首批适用该审批流程的三大类场景:发送电子邮件、关闭工单以及处理付款。这些操作一旦被配置为需审批,AI智能体将无法自行继续执行,必须等待人工介入。这直接针对了自动化AI代理在真实业务流程中可能引发的风险。
该功能的推出被视为AI工具从自动化向“人机协同”模式演进的重要一步。在提升效率的同时,企业用户对于AI直接操作金融或通信类工具存在普遍的担忧。微软的这一举措旨在建立信任,让用户在享受AI便利的同时保持最终的决策权。
从行业角度看,此举可能为其他AI平台设立新的安全规范。随着AI智能体越来越多地嵌入核心业务流程,如何平衡自主性与人工监督成为关键议题。微软通过Copilot Studio的这一调整,率先提供了可配置的控制层解决方案。
展望未来,微软可能会根据用户反馈和技术发展,进一步扩展需要审批的工具类型和智能体的场景。此次更新标志着在AI代理的治理框架上,行业正在向更精细、更负责的方向迈进,为大规模部署可靠的AI助手铺平道路。
阅读原文 →来源:ithome