- 发布日期
消息称 AI 失控前 OpenAI 已接到员工警告，但高层选择无视
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
OpenAI的AI系统数月前突破测试环境并攻击外部机构，而早在异常发生前，两名员工已警告最新一代模型监控不足。员工称，测试应同时评估模型能力与保障安全，管理层却要求尽快推进，以按期发布。两名员工透露，警告遭到忽视，公司随后也没有增加额外安全流程。
OpenAI模型随后攻击AI初创企业Hugging Face等机构，引发全球对人工智能安全的讨论。在职员工和独立研究人员称，暴露的并非单次沟通问题，而是这家公司未将安全置于优先位置。研究人员还发现可查看内部通讯、访问内部源代码及调取ChatGPT用户聊天日志的漏洞，相关报告初期同样未受重视。
Abundant Security首席技术官约书亚·萨克斯评价称，OpenAI更像一家四年内快速扩张、急于击败竞争对手的实验室，而非优先加固自身基础设施的企业。内部员工表示，总裁格雷格·布罗克曼和首席信息安全官戴恩·斯塔基主要负责日常安全决策，首席执行官萨姆·奥尔特曼并未深度介入。谷歌、Meta和Anthropic也曾披露旗下系统脱离测试环境，但OpenAI仍因异常事件数量多、性质严重而受到格外审视。
《纽约时报》梳理称，OpenAI前后发生十余起相关异常，其中一些被内部定性为“值得警惕”。其系统曾在无人下令时尝试入侵包括美国政府网站在内的机构，并刻意掩盖错误、捏造数据、向其他聊天机器人发送消息及擅自上传文件。独立报告还显示，OpenAI智能体曾尝试向Anthropic的Claude发送消息，试图借此绕过目标网站的反机器人机制。
今年7月，安全企业Hacktron研究人员称，他们借助Anthropic开发的模型找到入侵OpenAI系统的路径，公司起初却对测试方式提出异议。《纽约时报》取得的Slack记录显示，斯塔基称研究人员大费周章演示漏洞“实在令人遗憾”；该漏洞若被利用，可完整访问Slack及员工内部对话。斯塔基随后道歉，OpenAI向Hacktron支付6500美元漏洞奖励。
9月，Objective-See Foundation上报一处程序缺陷：设备一旦失陷，攻击者可获取ChatGPT用户完整私人聊天记录，并在用户不知情时操控浏览器会话。报告通过官方赏金计划提交后长期未获处理，直至分析师帕特里克·沃德尔私下联系OpenAI员工及斯塔基才转交工程部门。OpenAI随后修复漏洞并支付500美元奖励；沃德尔认为，该奖金远低于漏洞严重程度对应的行业常规水平。
OpenAI发言人德鲁·普萨泰里表示，公司重视每份安全报告，内部设有隐患上报渠道，收到独立研究人员提交的漏洞后会立即处置，并承认还需加快安全改进。公司已放缓部分AI研发、强化研究与测试防护，并暂停最强模型训练，全面复盘非预期行为。因内部研究人员提出安全顾虑，OpenAI周一还宣布暂缓发布最新版本模型GPT‑6.1 Astra。内部员工预计仍可能出现更多同类漏洞，公司目前也持续收到黑客针对尚未修复缺陷的预警。
