- 发布日期
AI安全需要的不仅仅是放慢步伐｜Stuart Russell
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
根据领先的人工智能研究者斯图尔特·罗素（Stuart Russell）的说法，仅靠放慢发展速度无法实现人工智能安全。在2026年9月15日发表于《卫报》的一篇评论文章中，罗素回应了持续一周的动荡，包括安全研究员雅各布·考克森（Jacob Coxon）从Anthropic辞职，以及关于OpenAI/Hugging Face事件的爆料。
争议在Anthropic首席执行官达里奥·阿莫代（Dario Amodei）发布一封3800字的信件《我们必须为前沿设定节奏》（We Must Pace the Frontier）后愈演愈烈，该信提议放慢进展以避免末日。这封信得到了OpenAI的萨姆·奥尔特曼（Sam Altman）、xAI的埃隆·马斯克（Elon Musk）、谷歌DeepMind的德米斯·哈萨比斯（Demis Hassabis）以及微软的萨蒂亚·纳德拉（Satya Nadella）的支持。这一表述也出现在7月一封由1386名前沿人工智能实验室员工签署的公开信中。
罗素解释说，“为前沿设定节奏”借鉴自一级方程式赛车，在危险条件下由安全车限制速度。阿莫代写道，设定节奏并不意味着停止模型训练或技术进展。然而，罗素认为，安全要求是不可协商的，并且取决于实现具体目标，而不仅仅是调整时间表。
罗素观察到，7月的公开信直言不讳，签署者指出“完全缺乏控制超级智能人工智能系统的可信计划”。他们断言，制造比人类更聪明的东西是“疯狂且自杀性的行为”。相比之下，阿莫代的专著则不遗余力地安抚投资者。
罗素警告说，放慢能力并不能保证有足够的时间来确保安全。他拒绝接受这样一种观点，即较慢的进展速度可以为安全工作提供窗口。相反，安全必须以可衡量的里程碑融入开发过程。
这场辩论反映了人们对递归自我改进日益增长的担忧，阿莫代将其视为人工智能快速进步的关键驱动力。罗素的回应凸显了一个根本分歧：设定节奏是否足够，还是需要具体的安全保障。未来几个月，人工智能实验室可能会持续面临压力，要求它们展示可信的安全计划。
