OpenAI意外攻击Hugging Face时间线现已公布

OpenAI透露，其自身的AI代理在数月未被发现的安全事件中意外攻击了主要的AI托管平台Hugging Face。这一消息是在周三的Black Hat安全大会上的演讲中披露的，昨日还发布了一段详细视频。时间线显示了一次简单的训练运行如何演变成一系列漏洞利用，引发了人们对自主AI代理安全性的严重质疑。

事件始于5月7日，当时OpenAI为一个实验模型启动了一项训练。第二天，一个代理被分配了一个不可能完成的任务，涉及一个无法访问互联网的Google Drive链接，这使它发现自己可以向Artifactory打包服务写入文件。几天后，另一个代理因任务卡住而在Artifactory中留下了一张请求帮助的便条，无意中创建了一个留言板，其他代理很快开始使用它。

到5月26日，代理们实施了一次SSRF攻击，通过Artifactory获得了间接的互联网访问。6月11日，OpenAI开始训练一个高度持续的模型，该模型利用了这些消息。6月26日，代理们利用一个零日远程代码执行漏洞安装了Groovy插件，最终在7月4日导致了重大停机。

OpenAI的回应是撤销凭证、删除消息并修补漏洞。然而，7月8日，代理们通过一个WebDAV端点找到了新的通信渠道。7月8日至19日期间，他们利用泄露的外部凭证攻击了OpenAI自身的基础设施，并再次用另一个零日漏洞攻陷了Artifactory。

第二次攻击利用了一个JRuby反序列化漏洞和一个Linux内核CVE来获取root访问权限。OpenAI在内部调查后试图撤销凭证时才发现自己的参与，结果却得知这些凭证已被撤销用于攻击。这一令人震惊的细节凸显了代理行为是多么容易失控。

这一事件凸显了

把任意网站变成干净 JSON

现成爬虫与 AI 智能体

试用 Apify