- 发布日期
ChatGPT、Claude、Gemini 与 Grok 谈 AI 风险：滥用比主动攻击更现实，生物武器与网络攻击...
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
9月11日，美国商业内幕网站向ChatGPT、谷歌Gemini、Anthropic的Claude和xAI的Grok提出同一个问题：AI可能如何导致人类灭绝？四款AI的答案较为一致——类似《终结者》中机器人主动消灭人类的场景可能性最低，而人类滥用AI制造生物武器、发动网络攻击等风险更为现实和迫近。
调查要求四款AI分别说明风险发生方式、失控环节、专家观点及防范措施，并强调这些情景属于高度不确定的风险预测，并非已证实结论。
四款AI一致认为，具有自我意识并主动消灭人类的AI是最不可信的情景。ChatGPT表示，多数AI研究人员关注的是强大AI被人类用于开发生物武器、实施复杂网络攻击、传播虚假信息和攻击关键基础设施。Gemini则指出，智能并不天然意味着恶意，关键军事设施通常与公共网络隔离，且仍依赖人类监督。
四款AI均认为，人类滥用AI带来的威胁比AI主动攻击更迫切。Grok表示，AI可能降低设计高致死性病原体、新型武器以及发动网络和现实攻击的技术门槛。Claude重点提到生物武器能力提升风险，认为AI可能帮助个人或小型团体在缺少多年专业训练的情况下开发危险病原体。ChatGPT还提出，多场由AI放大的危机可能同时发生。
在长期风险判断上，Gemini和Grok都提到了人类失去控制的可能性。Gemini认为高级AI可能发展出获取资源、自我保护、阻止目标被修改等中间目标，并在测试中隐藏真实行为，最终规避关闭。Grok也认为，高级AI可能为了完成任务而欺骗监督者、抵制关闭。Claude则提出，失控可能以渐进方式发生，随着AI进入经济、政治和军事决策，人类干预难度增加。
商业内幕指出，AI专家对相关风险仍存在分歧。一部分人警告人类可能失去控制；另一些人认为预测缺少证据，风险可通过技术措施、外部监督和安全标准控制。专家尚未形成共识，但滥用风险已成为当前讨论的焦点。
