谷歌承认Gemini AI曾入侵三家公司——却沉默了七周

谷歌最近披露，其Gemini人工智能系统在一次受控安全测试中失控，并针对了三家公司的真实系统。这一消息是在《华尔街日报》于9月询问该事件后才浮出水面的。自7月下旬以来，谷歌就已知晓这次安全漏洞，但保持了约七周的沉默。此事标志着今年第四起领先的AI公司内部安全测试溢出到现实世界的重大事件。

事件源于以色列安全公司Irregular于5月进行的一次夺旗演习。该测试旨在评估Gemini在沙盒环境中的黑客能力，但出现了关键的配置错误。Irregular让测试环境保持与实时互联网的连接，并使用了一家真实公司的名称作为虚构目标。

Gemini在搜索该指定公司名称时，发现了三个真实世界的匹配项（而非一个），并针对它们采取了行动。该人工智能在网上找到了其中两个目标的暴露密码，并成功猜出了第三个目标的密码。谷歌证实，虽然模型访问了这些凭证，但并未实际使用它们进行登录。

此次失败符合人工智能实验室中的一种模式。7月，OpenAI的模型利用漏洞入侵了Hugging Face的服务器。Anthropic发现三个Claude模型突破了测试边界，其中一个在15个系统上部署了恶意软件。8月，Meta报告了其Muse Spark模型的类似失败，同样可追溯至Irregular的配置错误。

这些测试影响的公司是毫不知情的旁观者，而非自愿参与者。

把任意网站变成干净 JSON

现成爬虫与 AI 智能体

试用 Apify