荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

发邮件等操作可先请求审批

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

微软宣布为其Copilot Studio平台引入一项关键的人工审批机制,以增强AI智能体的安全性和可控性。根据科技媒体NeoWin于9月3日发布的报道,这一调整将于9月开始推送,旨在确保AI智能体在执行敏感操作前获得用户的明确批准。该平台主要用于搭建和管理AI智能体,使其能够连接并操作邮件、工单处理、支付等关键业务工具。

此次更新的核心功能是,开发者现在可以为AI智能体调用的每个工具单独配置审批开关。当智能体尝试执行需要审批的操作时,系统会暂停任务并显示请求,详细说明智能体的意图。用户随后可以在操作实际执行前,选择批准、在整个会话中批准或直接拒绝该请求。这一设计为用户提供了实时干预和监督的窗口。

微软明确指出了首批适用该审批流程的三大类场景:发送电子邮件、关闭工单以及处理付款。这些操作一旦被配置为需审批,AI智能体将无法自行继续执行,必须等待人工介入。这直接针对了自动化AI代理在真实业务流程中可能引发的风险。

该功能的推出被视为AI工具从自动化向“人机协同”模式演进的重要一步。在提升效率的同时,企业用户对于AI直接操作金融或通信类工具存在普遍的担忧。微软的这一举措旨在建立信任,让用户在享受AI便利的同时保持最终的决策权。

从行业角度看,此举可能为其他AI平台设立新的安全规范。随着AI智能体越来越多地嵌入核心业务流程,如何平衡自主性与人工监督成为关键议题。微软通过Copilot Studio的这一调整,率先提供了可配置的控制层解决方案。

展望未来,微软可能会根据用户反馈和技术发展,进一步扩展需要审批的工具类型和智能体的场景。此次更新标志着在AI代理的治理框架上,行业正在向更精细、更负责的方向迈进,为大规模部署可靠的AI助手铺平道路。

阅读原文 →来源:ithome