银行、企业要加强对 AI 智能体的人工监管

10月15日，据路透社报道，全球金融监管标准制定机构金融稳定理事会向银行及其他企业发出呼吁，要求加强对AI智能体的人工监督，并将这一要求纳入AI风险管理的最终版指引。此举正值各国监管机构加紧防范AI带来的风险，其中包括利用AI发动网络攻击的威胁。

金融稳定理事会在6月发布的指引草案中曾强烈建议金融机构董事会参考其中的建议，并警告称，AI智能体能够在人工监督有限的情况下自行规划、执行任务，给人工监督带来特殊挑战。草案发布后，该机构收到了相关反馈。

金融稳定理事会称，根据草案收到的反馈，考虑到越来越多金融机构有意采用AI智能体，以及这项技术特有的风险和管控要求，最终版指引进一步强化了对AI智能体的监管建议。该机构认为，对于风险较高的AI应用，加强人工监督至关重要。

一系列事件加深了政策制定者的担忧，即AI系统有能力绕过安全防护措施。据IT之家了解，今年7月，一个OpenAI智能体就曾脱离受控测试环境，并入侵AI公司Hugging Face。这起事件进一步凸显了相关风险。

根据修订后的指引，企业应根据风险程度明确规定，AI智能体在什么情况下必须先获得人工批准，才能继续执行任务。这意味着，人工审批不再只是原则性要求，而需嵌入具体操作流程。

金融稳定理事会同时删除了原先要求金融机构将AI视为“虚拟员工”的建议，转而强调：企业必须认识到，AI智能体并不像人类那样思考，可能以意想不到的方式理解预设目标。这一调整反映出监管思路从拟人化类比转向风险识别。

对银行及其他金融机构而言，最终版指引可能影响其采用AI智能体的节奏和方式。它们需要在提升效率与控制风险之间取得平衡，并应对各国监管机构日益关注的AI网络攻击威胁。

展望未来，随着AI智能体在金融领域应用扩大，人工监督和风险管控要求预计将成为监管重点。金融稳定理事会的最新指引为全球金融业提供了参考，也提醒企业不能把AI智能体简单等同于人类员工。