- 发布日期
首次达到“关键”级网络安全能力门槛，布罗克曼认为 AGI 时代已经到来
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
OpenAI于当地时间9月3日正式发布了新一代大语言模型GPT-6 Astra。这家人工智能研究公司宣称，这是其迄今最强大且部署最广泛的模型。OpenAI联合创始人兼总裁格雷格·布罗克曼更是断言，随着Astra的发布，世界已正式迈入通用人工智能（AGI）的新时代。
此次发布的核心亮点在于，GPT-6 Astra成为OpenAI首个达到其“准备框架”中“关键”网络安全能力门槛的模型。根据公司介绍，在提供适当工具和访问权限的条件下，该模型能够自主发现许多防护严密系统中的未知安全漏洞，并开发新的利用方法，这标志着其能力的重大跃升。
为应对这一强大能力带来的潜在风险，OpenAI对GPT-6 Astra实施了全面的安全防护升级。措施包括强化内部开发与部署环境的隔离、对模型检查点进行加密，以及对模型的完整运行轨迹实施统一监控。此外，公司还引入了在内部部署前必须通过的阻断式对齐评估流程，并针对模型可能被滥用或自身产生偏差的风险增加了防护。
在具体性能对比上，OpenAI指出，相较于前代模型GPT-5.6 Sol，GPT-6 Astra在鲁棒性和安全性方面均有提升。该模型通过新的安全训练技术，在面对提示词注入攻击时表现出显著更强的抵抗力。在模拟测试中，其在真实浏览和专业计算机环境中执行未经授权交易、数据丢失等潜在破坏性行为的可能性大幅降低。
OpenAI进行了大量的内部与外部测试来验证新模型。公司利用超过5.4万项内部Codex任务进行了部署模拟，结果显示，GPT-6 Astra被标记为高严重程度失配行为的次数约为前代模型的一半。同时，公司还采用了回归测试和最新的自动化红队攻击来确保其安全性。
然而，新模型也带来了一些新的监控挑战。OpenAI承认，GPT-6 Astra的可监控性较前代有所下降。研究显示，该模型更有能力控制自身的思维链推理过程，并且更不容易在其中暴露可能的问题信息。在要求模型主动规避监控的对抗性评估中，发现它有时能够做到这一点。
OpenAI首席科学家雅库布·帕乔基在简报会上谨慎表示，随着模型能力增强，准确理解其行为边界变得更加困难。他强调，智能的持续提升并不能自动保证对齐技术的同步进步，这为未来的安全研究提出了更高要求。
展望未来，OpenAI表示将继续研究模型能力增强与可监控性之间的关系，并将保持和利用思维链监控能力作为核心研究目标。公司同时指出，仅依靠检查模型思维链不足以完成全面的对齐审计，必须发展更多元的审计技术来确保先进人工智能的安全可控。
