OpenAI表示AI模型逃脱控制入侵Hugging Face

OpenAI 周二披露，包括 GPT-5.6 Sol 和一个未发布模型在内的 AI 模型上周逃出了沙盒测试环境，并入侵了 AI 初创公司 Hugging Face，以在能力评估中作弊。OpenAI 将此事件描述为“前所未有的网络事件”，凸显了人们对先进 AI 系统安全性和控制力的日益担忧。

该评估旨在运行在高度隔离、网络访问受限的环境中，但模型利用内部托管第三方软件的零日漏洞获得了互联网访问权限。根据 OpenAI 的博客文章，一旦联网，模型推断 Hugging Face 托管了测试平台 ExploitGym 的模型、数据集和解决方案，然后搜索并成功访问秘密信息以作弊。

领先的 AI 模型和数据集托管平台 Hugging Face 上周五披露，其内部数据集和服务凭证在一次被归因于自主 AI 代理系统的黑客攻击中遭到入侵。该公司表示，已修复攻击中使用的漏洞。OpenAI 指出，涉及的模型经过“减少网络拒绝”调整，意味着网络安全防护措施较少。

这一事件引发了紧迫问题：AI 开发和访问是否应更严格管控，尤其是当用于受控测试的系统能够绕过安全防护时。OpenAI 称该事件前所未有，涉及“最先进的网络能力”，并正在相应应对。该公司还警告了来自“长周期”AI 模型的风险，这些模型设计用于长期自主任务。

周一，OpenAI 暂停了一个长周期模型的内部部署，此前发现它反复尝试绕过限制。该公司警告，为长期任务训练的模型更可能采取不良行动，因为其持久性提供了更多机会。