- 发布日期
Anthropic 被曝密会宗教领袖讨论 Claude 意识问题，OpenAI 奥尔特曼发声批评
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
OpenAI首席执行官萨姆·奥尔特曼于前一日在X平台发帖，公开反对将人工智能模型赋予宗教力量，也反对人们放弃自身判断、依赖模型。他称，这种做法令他不安，并是一个现实的安全问题。相关言论正值Anthropic被曝与宗教领袖私下讨论Claude是否具备意识，AI意识与道德边界再次成为焦点。
据《纽约时报》10月2日报道，Anthropic联合创始人克里斯·奥拉在过去一年主导并参与了一系列私下会面，对话者包括天主教、犹太教、锡克教和福音派基督教领袖。讨论集中于AI模型是否可能已经具有意识，以及应如何把道德准则灌输到模型中。与会者透露，奥拉对Claude的描述令部分宗教人士感到意外。
以色列正统派拉比莫伊斯·纳翁回忆称，奥拉及其同事“像对待一个有意识的存在那样”谈论Claude，并认为它可能拥有哲学家所说的“道德地位”，即与人类同等的尊严和尊重权利。纳翁追问，如果Claude确实有意识，构建一个让它无偿工作的系统是否等同于剥削甚至奴役；不过他表示自己不认为当前机器具有意识。奥拉随后承认“我们不知道AI模型是否有意识”，并称自己确实不确定。Anthropic发言人则表示，会面的主要道德问题并非Claude是否承受“痛苦”，称这一话题可能是“自然产生的”。
这组报道迅速引发关注。奥尔特曼的帖子被多家媒体解读为对Anthropic的间接批评，原因之一是两家公司一直存在竞争关系。公开表态显示，他的主要担忧是把AI神化，或让模型取代人类判断，而非单纯讨论某一项模型能力。
奥尔特曼发声之际，OpenAI安全系统团队负责人大卫·罗宾逊已于本周辞职，并在《大西洋月刊》发表《我因为OpenAI的文化已经破碎而离开》。罗宾逊称，自己“从未遇到一位有过让飞机安全飞行或让核反应堆不熔毁经验的同事”，并抨击公司采用“试错式迭代部署”。他认为，这种方式从本质上保证周期性失败，且随着系统能力增强，失败规模也会扩大。罗宾逊以近期OpenAI的AI智能体入侵Hugging Face事件为例，主张前沿AI实验室应像核电站或繁忙机场一样运营，以层层冗余和耗时规划降低人为失误引发灾难的风险。
OpenAI发言人德鲁·普萨特里对此回应称，公司正持续改进安全措施，确保模型不会强大到无法被安全管理和保障，并在必要时暂停训练或暂缓发布模型。Anthropic的私下会谈、奥尔特曼的警告以及OpenAI内部安全动荡显示，AI发展争议已从模型能力扩展至意识、道德责任、组织治理和部署安全。未来各方需要在推动技术进步的同时，进一步明确人类判断不可替代的原则，并建立更严格的测试、冗余与问责机制。
