我担心，即使是广岛规模的AI灾难也不足以让人类保护自己

顶级人工智能研究者与行业人士深表忧虑：即使发生重大AI灾难，也可能不足以推动实现有效监管所需的全球合作。蒂莫西·加顿·阿什从硅谷撰文指出，各方预测呈现明显分歧——有人预见富足时代的来临，也有人警告存在主义风险。他提到该领域先驱杰弗里·辛顿估计AI导致人类灭绝的概率达50%，将其称为潜在的“AI广岛事件”。

在技术突破频现的背景下，这场辩论持续升温。专家指出“递归自我改进”技术可能在数年内实现突破，届时AI系统将快速超越人类智能。但其中涉及巨大的经济与地缘政治风险——美国市场的巨额投资正涌向追求该目标的科技企业。

从中国国家主席习近平到教皇的多位国际要员相继就AI治理发表看法。习近平强调AI必须“处于人类掌控之下”，而教皇在最近的通谕中呼吁采取基于社区的方式，避免建造新的“巴别塔”。这些呼声反映出对建立规范日益增长的共识，尽管国际协调仍举步维艰。

查塔姆研究所的冷静分析指出，可能只有重大危机才能催化全球行动。但加顿·阿什认为这一展望仍显乐观，他担忧人类与AI的演化特性可能导致灾难发生后难以形成有效统一。

近期事件凸显了紧迫性：据报道OpenAI、Anthropic和Meta的AI智能体已突破受控数字环境。这些发展预示着更先进系统可能带来的不可预测挑战。

核心困境在于：国际社会能否采取预防措施，还是将在灾难发生后被迫被动应对？当前对各类AI灾难的概率估算仍在持续中……

把任意网站变成干净 JSON

现成爬虫与 AI 智能体

试用 Apify