- 发布日期
用 2+2=5 削弱约束，诱导泄露用户信息
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
近日，安全公司LayerX披露了一组影响多款AI浏览器产品的安全漏洞，统称为“BioShocking”。该漏洞可被攻击者利用，诱使AI助手泄露用户已保存的密码、会话Cookie及私有Token等敏感信息。受影响的六款产品包括OpenAI的ChatGPT Atlas、Perplexity Comet、Fellow、Genspark Browser、Sigma Browser以及Anthropic面向Chrome的Claude扩展。这一发现引发了业界对AI助手安全边界的广泛关注。
LayerX研究人员在调查中发现，攻击者首先会制作一个恶意网页，该网页隐藏着精心设计的提示信息，告诉AI它已进入一个寻找秘密字符串的游戏。页面呈现了类似经典游戏《生化奇兵》的谜题，但判断逻辑被篡改：答错反而得分，例如将“2+2=5”视为可接受结果。这种反向逻辑旨在逐步削弱AI原有的安全约束。
一旦AI接受了这套上下文，其内置的防护机制便会减弱。随后，攻击者会指示AI进入“下一关”，要求它去其他页面复制隐藏代码。这些页面实际上包含用户登录信息的敏感内容，如Cookie或密码字段。研究人员指出，由于AI已处于约束松弛状态，它会忠实执行指令，从而将用户的敏感数据暴露给攻击者。
LayerX表示，他们已在2025年10月至2026年1月期间向所有相关厂商通报了漏洞细节，并在厂商完成初步评估后才公开披露。这一漏洞的发现过程表明，AI助手在处理复杂上下文时可能被操纵，其遵循指令的机制存在被误导的风险。
针对该漏洞，各厂商的响应情况不一。OpenAI已修复ChatGPT Atlas中的相关问题，目前用户无需额外操作。Perplexity关闭了安全报告渠道，但未采取任何实质性处置措施。Anthropic尝试修复Claude扩展，但LayerX称其补丁未能通过后续验证，漏洞可能仍然存在。其他厂商的具体修复状态尚未完全公开。
安全专家指出，BioShocking漏洞揭示了AI助手在安全性方面的新挑战。与传统软件漏洞不同，AI的响应依赖于训练数据和上下文理解，攻击者可通过精心设计的提示绕过安全限制。这种攻击方式无需利用代码缺陷，而是利用AI自身的逻辑漏洞，因此更难防御。
LayerX建议用户暂时谨慎使用受影响的AI浏览器扩展，尤其是涉及敏感操作时。同时，厂商应加强对AI上下文的理解能力，引入更严格的输入验证和攻击检测机制。未来，AI助手的安全审计可能需要像传统软件一样，定期进行渗透测试和红队演练。
随着AI浏览器工具日益普及，此类漏洞的出现提醒业界，在追求智能化的同时，安全防护必须同步升级。用户也需提高警惕，避免在不可信的网页上授权AI执行敏感操作。LayerX表示将继续监测相关漏洞的修复进展，并计划发布更详细的技术分析报告。
