- 发布日期
因网络安全风险，延缓 Astra 模型发布
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
OpenAI近日宣布，其即将发布的AI模型Astra因在网络安全领域达到“关键”风险级别，决定延缓发布以确保安全。该公司表示，内部与专家评估显示，Astra在智能体编程和网络安全领域取得重大突破，但根据其《准备框架》，该模型已被列为OpenAI旗下首个网络安全风险达到“关键”级别的模型。
根据OpenAI的《准备框架》，AI模型满足任一条件即触及“关键”门槛：一是无需人类干预，即可在多个经过安全加固的真实关键系统中识别并开发出有效的零日漏洞利用程序；二是仅需提供高层级战略目标，即可自主构想并实施全新的端到端网络攻击。Astra符合上述标准之一，因此被判定为高风险模型。
OpenAI特别强调，Astra尚未发布，并未参与此前针对Hugging Face的网络攻击事件。为保障后续开发安全合规，该公司已采取多项管控措施，包括对高能力模型实施更严格的安全控制，如设置隔离测试环境、限制网络与工具访问权限、强化模型权重保护与加密、部署额外监控与检测能力，以及实施沙箱化运行。同时，OpenAI暂停了内部所有尚未满足上述强化安全标准的Astra相关活动。
此外，OpenAI对Astra的所有智能体应用，包括训练和评估阶段，实施了涵盖高风险行为与对齐失效的全局监控。通过评估模型思维链（CoT）审查并拦截高风险操作。OpenAI还表示，已与相关政府机构及指定的AI安全组织合作，共同测试该模型，并向第三方测试合作伙伴提供推荐的安全控制规范，以确保更高风险的评估与工作负载能够在安全状态下运行。
OpenAI首席执行官萨姆·奥尔特曼随后表示，Astra是一款性能强劲的模型，公司正在全力推进其公开发布。他称：“我们始终认为，把顶尖模型局限在少数人手里并不是个好策略。不过鉴于它在网络安全方面的强大能力，我们还需要一点时间来确保万无一失。希望大家不用等太久！”
这一决定凸显了前沿AI安全治理的严峻性。业内分析认为，Astra的延缓发布可能对AI竞争格局产生一定影响，但有助于建立公众对AI安全的信任。OpenAI此举也表明，面对高能力模型，企业在追求技术突破的同时，必须兼顾潜在风险。
展望未来，类似《准备框架》的风险评估机制可能成为行业标准。OpenAI虽然未公布Astra的具体发布时间，但奥尔特曼的表态暗示其发布已提上日程。随着AI安全标准的逐步完善，更多企业或将采取类似管控措施，以确保技术创新与安全可控并行。
