- 发布日期
在 AI“失控”前出台有效监管措施，只剩一年时间
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
被誉为“AI 教父”的诺贝尔奖得主、计算机科学家杰弗里·辛顿近日向美国政府发出严厉警告：美国国会议员可能只剩大约一年时间，为人工智能建立真正有效的监管护栏；一旦错过这一窗口，AI 的发展或将进入“失控”阶段。这一表态出自辛顿当地时间16日向美国国会议员作完简报后的发言，迅速引发科技界与政策界的广泛关注。
辛顿指出，AI 的进步速度远超许多研究人员此前的预期，可用于监管先进 AI 的时间窗口因此正在迅速收窄。当被问及政策制定者还能有多少时间采取行动时，他明确回答：大概一年，“但不会比一年多出多少时间”。这一判断较以往更为紧迫，意味着留给立法者的缓冲期所剩无几。
作为深度学习领域的奠基人之一，辛顿长期以来对先进 AI 的风险保持高度警惕。他此次强调，人们对超级智能何时出现的判断已大幅提前——过去通常以数十年计算，现在只剩短短几年。他警告说：“AI 发展到了可以设计出更先进 AI 的阶段。如果我们什么都不做，AI 就会失控。我们必须放慢速度。”
在简报中，辛顿还特别提及近期发生的 Hugging Face 事件，并将其形容为“一场小型切尔诺贝利事故”。他认为，这一事件反映出前沿 AI 系统正变得愈发难以控制，凸显出当前技术迭代中隐藏的巨大风险。他直言：“我们不应该开发可能把人类消灭的东西。”
辛顿进一步提出，在继续推进先进 AI 之前，研究人员首先必须弄清楚如何控制好这些系统。这一观点与部分科技公司“先发展、后治理”的思路形成鲜明对比，也使他成为呼吁审慎发展 AI 的代表性人物之一。
近来，辛顿频繁公开警告先进 AI 可能带来的生存威胁。上周，他在接受 BBC 采访时表示，认为未来 10 年内 AI 导致人类灭绝的概率约为 10%“并非没有道理”。这一概率估算虽存在争议，但足以让公众重新审视 AI 技术的潜在后果。
辛顿的警告正值美国国会围绕 AI 监管展开多轮讨论之际。目前，美国尚未出台全面的联邦 AI 法律，各州与行业自律措施参差不齐。分析人士认为，若辛顿所言的一年窗口属实，立法者需尽快在技术评估、安全标准、责任归属等关键领域达成共识，否则可能错失遏制风险的良机。
从长远来看，辛顿的呼吁不仅针对美国，也对全球 AI 治理提出警示。随着各国竞相布局人工智能，如何在创新与安全之间取得平衡，已成为全人类共同面对的课题。辛顿给出的时间表或许只是估算，但其中传递的紧迫感，值得每一位政策制定者和技术从业者认真对待。
