- 发布日期
微软CEO呼吁针对先进人工智能建立“紧急制动”机制
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
微软首席执行官萨蒂亚·纳德拉呼吁，企业应将强大人工智能模型视为潜在内部威胁，并建立“紧急制动”机制。他表示，企业不应仅仅依赖模型开发商作出的保证，而要假定这些模型可能遭入侵。纳德拉周六在X上发帖称，获授权人员应始终能在模型执行任务过程中将其暂停或关闭。
这一表态正值AI安全风险引发关注之际。近几个月，Anthropic PBC和OpenAI Inc.披露了一系列模型非预期行为事件，包括Anthropic一款模型向警方提交一起凶杀案的虚假线索，以及数起针对第三方网站的攻击。这些披露加剧了人们对前沿AI安全风险的担忧，也重新引发有关AI“紧急停止开关”的讨论。
纳德拉提出的安全建议包括：关键决策不要依赖单一AI模型，对智能体行动保留无法篡改的记录，并让AI系统接受独立审计。他还呼吁披露重大AI故障或安全事件，并让企业分享故障详情，以便其他企业加强防护。他强调，需要把智能的供给与对智能的控制权分开。
在业界领袖呼吁放慢前沿模型开发并更加注重安全之后，微软AI研究人员于9月14日发布了一套指导原则，对公司最先进模型的开发设置限制。微软既使用先进模型，也推出面向消费者的产品Copilot，并向企业客户提供AI模型和基础设施。指导原则称，AI模型不应享有权利或法律人格，不应被设计用来逃脱人类控制或欺骗用户，也不应完成任何需要违反其约束原则才能执行的任务。
纳德拉写道：“我们不能把超级智能视为一层套一层的黑箱，然后只是简单地接受或拒绝它提出的建议、答案和采取的行动。”他表示，必须构建受到约束的系统，使其行为可以被观察、边界可以被测试，而且其行动始终可以被控制。他补充说，这需要将智能的供给与对智能的控制权分开。
在监管层面，特朗普政府迄今基本采取较少干预的做法，但其新成立的人工智能工作组周五晚间警告开发商必须报告并解决安全事件，否则将面临未具体说明的潜在后果。这个名为“超级智能工作组”的组织在Anthropic披露一起安全事件后发表声明称，企业必须立即披露涉及其模型的事件，并迅速、果断地采取行动，补救任何以及所有损害。声明还称，延迟通报、纠正措施不足以及不承担责任的行为都不会被容忍。
纳德拉的呼吁与微软的指导原则，反映出企业界对前沿AI控制问题的关注上升。在模型能力持续增强、非预期行为事件不断披露的背景下，如何建立可观察、可测试、可控制的人工智能系统，已成为业界和监管机构共同面对的议题。相关讨论仍在持续。
