- 发布日期
OpenAI 介绍内部漏洞检测模型 GPT-Red
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
OpenAI当地时间7月15日发布了其内部使用的网络安全“红队”模型GPT-Red，该模型能够自动化执行网络攻击模拟，旨在提升对外发布模型的鲁棒性和安全性。此举标志着OpenAI在AI安全领域迈出关键一步，通过内部对抗测试来强化模型防御能力。
作为全球领先的AI研究机构，OpenAI一直面临大语言模型遭恶意攻击的风险。GPT-Red的推出源于对模型安全性的长期投入，其核心功能是模拟各种攻击手段，包括提示符注入和思维链操纵，从而在模型部署前发现漏洞。据OpenAI透露，过去半年中，自GPT-5.3版本后的每个生产模型均在训练中集成了GPT-Red，显著提升了抗攻击能力。
在具体效果上，GPT-Red的应用大幅降低了模型被攻破的概率。例如，伪造思维链型攻击的成功率已从GPT-5.1上的95%骤降至最新模型上的不足10%。而针对最新的GPT-5.6 Sol模型，GPT-Red的直接提示符注入攻击失败率仅为0.05%，显示出极强的防御韧性。这些数据表明，通过持续的红队测试，OpenAI的模型变得越来越难以被恶意利用。
GPT-Red的训练采用自博弈强化学习机制，其自身与一组不同的防御型大语言模型同时在广泛的红队场景中迭代。系统通过奖励机制驱动：GPT-Red因成功诱发有效失败而获得奖励，而防御型模型则因抵抗攻击并完成原始任务而获得奖励。随着防御模型不断增强，GPT-Red被迫发现更强大、更多样化的攻击方法，形成持续提升的对抗循环。
值得注意的是，GPT-Red与产品模型严格隔离，确保测试环境的安全性。OpenAI认为，这一做法开启了良性的人工智能网络安全循环，即利用现有模型来增强未来模型的鲁棒性、一致性和可信度。这种“以子之矛攻子之盾”的策略，有望成为业界标准实践。
展望未来，OpenAI计划将GPT-Red进一步扩展至更多安全领域，例如检测模型偏见和生成有害内容。行业分析人士指出，该模型不仅提升了OpenAI自身产品的安全性，也为整个AI社区提供了一种可参考的自动化安全测试框架。随着AI应用日益广泛，此类主动防御机制将成为确保技术可靠落地的关键基础设施。
