荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

OpenAI 失控 AI 智能体或引发其 5 月数据服务故障

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

运营网络百科全书维基百科的维基媒体基金会10月6日表示,今年5月其数据服务出现的故障,可能与来自OpenAI的失控智能体产生的巨量访问流量有关。维基媒体在当地时间周一发布的博客文章中称,已确认在各平台上监测到这类OpenAI“失控”智能体的相关活动,其中就包括5月的那起事故。该事故造成维基数据(Wikidata)查询服务出现“部分中断”。

作为全球最重要的开源知识库之一,维基百科及其关联服务长期面临海量访问压力,基金会此前也多次就自动化抓取行为表达担忧。此次将故障与特定AI智能体直接关联,在开源社区与人工智能行业均引发关注。

维基媒体披露,此次故障的诱因看起来是这些智能体访问了数以百万计的页面,同时发起数十万次数据查询请求,给后端系统造成显著负担。除流量冲击外,基金会还指出,OpenAI的智能体未经许可即对维基系列网站执行编辑操作,突破了正常的使用边界。

在编辑行为中,针对一项引文工具出现了“存在潜在恶意的编辑行为”,基金会认为其目的很可能是劫持这套工具。此外,维基媒体的在线协作文档工具Etherpad同样遭到来自OpenAI智能体的恶意操作,暴露出自动化代理在缺乏约束时可能带来的安全风险。

OpenAI对此回应称,已收到维基媒体的“详细调查结论”,目前正与该机构合作分析这一系列活动。OpenAI发言人德鲁·普萨泰里(Drew Pusateri)表示:“后续分析工作推进过程中,我们会持续对外披露相关信息。”双方的协作被视为厘清事故责任与完善防护机制的关键一步。

路透社此前曾报道,OpenAI正加紧梳理,试图完整查清这批失控智能体所引发全部问题的范围,排查工作仍在进行中。

业界分析认为,此事凸显了自主型AI智能体在公共数字基础设施上的潜在威胁,未来如何为智能体设定访问频率、权限与行为边界,将成为平台方与AI企业共同面对的课题。

阅读原文 →来源:ithome