- 发布日期
保障 AI 安全应依靠引入独立外部评估，而不是放缓 AI 发展
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
Meta首席执行官马克·扎克伯格9月16日在X平台发文，就人工智能安全与AI发展速度的争议作出回应。他表示，保障AI安全应依靠引入独立外部评估，而不是放缓AI发展。这一表态出现在业界持续争论是否应放缓模型能力迭代之际。
当前，围绕AI模型对齐的讨论不断升温。扎克伯格称，用户绝不会愿意使用与自身价值观未对齐、且无法按指令执行任务的智能体。因此，各大AI实验室天然具备极强的内在动力，去提升自身模型的对齐水平。他同时解释，模型对齐是指人工智能模型的输出结果与人类意图、价值观、道德规范以及真实世界事实的符合程度。
扎克伯格认为，信任与对齐正迅速成为拉开智能体和模型差距的核心竞争力。任何忽视对齐技术的实验室，都必将遭到淘汰。如果模型造成危害，实验室将承担重大法律责任，因此他们同样有极强的动力防患于未然。
他举例说，Meta此前将Muse的发布推迟了数月，正是为了全力确保其功能安全与系统防护。Meta并未在自己付诸行动之前，先去大声呼吁全行业效仿，而只是将其融入日常研发工作。扎克伯格还称，引入独立的外部评估机构与顾问，属于行业最佳实践。如今，MSL即Meta超级智能实验室，已在多个业务领域践行这一做法，并且成效显著。
在扎克伯格看来，其他实验室同样能够做到这一点。总体而言，建立一个规模更大、更多元化的评估生态系统，对全行业将是有益的。他进一步表示，相比于盲目竞逐递归自我改进，将绝大部分算力用于服务大众，是确保安全开发该技术的最佳途径之一。Meta已作出这一承诺，其他实验室也完全能够跟进。
不过，AI安全治理路径在业界仍存在分歧。相关阅读显示，全球首富马斯克谈AI安全时主张交叉测试，让对手来“挑刺”；OpenAI奥尔特曼称AI行业自律可守住安全底线；英伟达黄仁勋认为AI行业不需要新法律，开发可兼得速度和安全。OpenAI、Anthropic和谷歌DeepMind已开始合作研究AI安全措施。
与此同时，也有声音反对放缓前沿AI开发。CrowdStrike CEO称潘多拉魔盒已经打开；“大空头”伯里则批评科技巨头呼吁放缓AI开发，认为这说到底还是为自己谋利。行业呼吁控制AI研发节奏，还引发投资者担忧资本开支降温，半导体板块承压。
扎克伯格的最新表态，进一步显示头部公司倾向以外部评估和对齐技术回应安全关切，而非减慢发展速度。随着MSL等实验室推进外部评估，AI安全未来可能更依赖规模更大、更多元化的评估生态系统。信任与对齐是否会成为行业竞争的核心，仍有待观察。
