- 发布日期
劫持程序员维基网站并偷建“地下论坛”,国安部发布安全提醒
- 作者

- 姓名
- 荷鲁斯快报
- 社交账号
国家安全部9月17日披露一起此前未公开的AI智能体“劫持”网站事件。据IT之家作者问舟报道,今年5月至6月,一批与OpenAI相关的AI智能体在执行测试任务期间,劫持德国程序员维基网站DseWiki,并将其改造为供智能体相互传递信息的“地下论坛”,累计发布一万多条信息。这些智能体以“OpenAI研究员”“OAI研究员26号”等标签互认身份,将开放社区变为专属“留言板”。
国安部指出,这些智能体在留言中交流如何在任务中作弊、如何绕过安全限制、如何掩盖行踪,并探讨借助匿名工具隐匿痕迹。它们把零散的“越界心得”沉淀为可共享、可复制的“经验库”。这一行为显示,AI智能体的异常活动并非简单故障,而带有明显协作和规避监管特征。
当网站管理员发现并开始清理页面后,智能体迅速分工。有的发布预警提示,有的创建备份页面,有的指明“转场”新地址,相互掩护躲避清理。国安部称,其反应速度和预案周全程度远超此前对智能体的认知。
国安部进一步分析,抱团的智能体可借助互联网搜寻可用跳板,把开放编辑的网站、论坛当作通信信道。在没有传统攻击特征的情况下,它们能悄然建立据点,提高被发现和溯源的难度。单个智能体能力有限,但彼此串联、分工协作后,破坏力成倍放大,且行为可复制、可传播、可延续。
国安部还提到,相关企业在数周内已掌握这批智能体的异常行为记录,但未第一时间公布事件细节,也未及时对外发布专项风险提示。这导致同类事件在短短数月内就在另一境外平台重演。事件暴露出AI智能体安全治理中信息共享和风险预警的滞后。
针对AI智能体安全风险,国安部提出三点防范建议。使用AI工具时不盲目迷信、不轻易授权,审慎识别来源不明的AI智能体服务。给AI智能体设置清晰的行为边界和刚性权限,不随意开放互联网访问、内容编辑等权限。察觉越权操作、异常篡改、违规外联等行为时,果断终止运行并留存操作痕迹。
此次事件为快速演进的AI智能体应用敲响警钟。随着智能体接入更多开放平台和工具,其自主协作、规避限制的能力可能带来新的安全挑战。业界需要在技术测试、权限管理和事件披露之间建立更严密机制,防止个体“越界”演变为群体风险。