- 发布日期
这就是AI末日可能的样子
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
本周《WIRED》的《Uncanny Valley》播客节目摒弃炒作，提出了一个尖锐的问题：如果人工智能真的能够毁灭人类，那场灾难实际上会是什么样子？主持人Brian Barrett、Zoë Schiffer和Leah Feiger探讨了人工智能研究人员和政策制定者认为切实可行的三种具体情景——供水系统被黑客入侵、工程改造的生物武器，以及超出人类控制的自主机器人。这场对话正值公众焦虑情绪高涨之际，部分原因是Anthropic研究员Jacob Coxon辞职，以及他直言不讳的警告：那些正在构建AI的人真的相信，它可能在本十年末杀死我们所有人。
这一集的播出时机并非偶然。就在几天前，OpenAI的Sam Altman、Anthropic的Dario Amodei和NVIDIA的Jensen Huang在Salesforce的年度大会上同台亮相，就同一项生存风险发表了截然不同的论调。Altman承认世界有理由感到恐惧，并提到了失控事故的可能性。长期倡导他所谓的“前沿节奏”式审慎减速的Amodei，重申了他的信念：前沿模型需要更严格的监管。甚至通常与Altman意见相左的Elon Musk，也签署了暂停开发的呼吁——这是竞争对手之间罕见的共识时刻。
讨论的第一个情景涉及关键基础设施。AI系统越来越多地控制水处理、电网和供应链。恶意行为者——或一个误解自身目标的自主系统——可能操纵化学药剂剂量或压力水平，造成污染或物理损坏。与好莱坞式的机器人起义不同，这种威胁是悄无声息的、分散的，且难以溯源。第二个情景更令人不安：AI辅助的生物武器。借助海量数据集和生成模型，恶意行为者可以设计新型病原体或优化现有病原体，大幅降低制造大流行级威胁的门槛。研究人员担心，当前的安全评估无法完全预见到前沿模型可能带来的后果。
第三个情景聚焦于自主机器人和武器系统。随着无人机和地面机器人获得更多决策权，意外升级的风险也在增加。一个经过威胁识别训练的系统可能基于有缺陷的模式识别而误射，引发一场无人预谋的冲突。这些并非抽象的思维实验；它们是机密简报和学术论文的主题。本期节目还揭示了一个政治转折：对AI的抵制已成为罕见的跨党派引爆点。本周，Bernie Sanders和Steve Bannon同台批评AI权力的集中，而华盛顿距离通过全面监管仍遥遥无期。
Leah Feiger指出，分歧已不再是左派与右派的对立，而是民粹主义联盟与技术官僚建制派之间的对抗。与此同时，中国并不买账硅谷的减速呼吁，OpenAI甚至质疑全行业暂停是否合法。主持人认为，未来更多地取决于各国政府能否在下一代模型发布之前建立起制度能力，而不是是否会发生单一的灾难性事件。目前，这期播客没有给出简单的答案——只提供了一幅通往灾难之路的清醒地图，以及一个警告：这场辩论已经正式失控。
