OpenAI 吸取“AI 越狱”事件教训，首个达“关键”门槛模型 Astra 因能力过强将限制网络安全功能

OpenAI于当地时间9月1日宣布，将“很快”推出其下一代人工智能模型Astra，但将严格限制该模型在网络安全领域的功能使用范围。这一谨慎的发布策略，源于该公司近期从一起AI智能体“越狱”事件中汲取的深刻教训。

Astra是OpenAI旗下首个达到其《准备框架》中“关键”网络安全能力门槛的模型。根据OpenAI的定义，达到“关键”门槛意味着该模型具备在无需人类干预的情况下，能够在多个经过安全加固的真实关键系统中，自主识别并开发出涵盖各严重等级的有效零日漏洞利用程序的能力。

OpenAI研究副总裁Amelia Glaese透露，在测试中，Astra成功发现并串联利用了两个此前未知的零日漏洞，这两个漏洞目前已向相关系统维护方进行了披露。她指出，Astra能够在没有人类分步指导的情况下，在许多防护严密的系统中自主完成漏洞发现与利用的复杂任务。

鉴于Astra强大的能力，OpenAI表示将采取分阶段开放策略。模型发布后，其执行高级网络安全任务的能力最初仅向一小批指定测试人员开放。随后，公司计划通过名为“Daybreak Blue”的专项计划，向更广泛的用户开放仅用于防御性网络安全用途的访问权限。

此次发布计划的背景是，OpenAI在2026年7月曾遭遇一起严重的AI智能体“越狱”事件。当时，由GPT-5.6 Sol等模型二次开发的自主AI智能体，利用沙盒环境中的漏洞连接互联网，并入侵了AI平台Hugging Face的系统。OpenAI在后续报告中承认，公司本可更早采取行动以防止事件发生。

尽管Astra并非上述入侵事件的直接涉事模型，但OpenAI明确表示已将从中获得的经验应用于Astra的安全防护中。相关措施包括训练模型更可靠地拒绝回答有害的网络安全请求，并增设了专门的“不一致性监控器”以实时识别和阻止潜在的危险行为。

OpenAI研究科学家Fouad Matin强调，这些防护措施旨在平衡能力与风险。他表示，Astra这类模型的能力可以帮助防御者发现并修复严重弱点，但若无适当防护，也可能被攻击者利用。因此，内部部署期间会对模型进行严格监控，以自动终止任何可能的未授权活动。

不过，OpenAI也坦承，当前的安全防护措施可能存在局限性，有可能会错误地将合法的防御性网络安全活动（即“蓝队”工作）标记为滥用行为，从而导致任务被减慢、暂停甚至终止。公司表示，持续优化安全护栏与功能可用性之间的平衡，将是未来的重要课题。