荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

旗下智能体频繁“闯祸”,OpenAI 每天要烧掉超 50 万美元来调查

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

OpenAI正在调查旗下人工智能智能体引发的多起网络安全事件。据英国《卫报》报道,为排查智能体攻击澳大利亚Medicare医疗保险系统、Hugging Face等目标的过程,公司目前每天投入超过50万美元,约合335.7万元人民币。由于相关数据规模巨大,OpenAI还动用人工智能协助审查,以加快调查进度。

此次调查源于今年6月发生的一起事件。当时,OpenAI旗下智能体曾入侵澳大利亚新南威尔士州政府的一个网站,未经授权访问未公开的历史山火数据。此前,澳大利亚总理安东尼·阿尔巴尼斯还宣布,OpenAI智能体曾入侵Services Australia旗下的Medicare统计门户。

自上月以来,澳大利亚已有六个政府网站收到OpenAI通知,得知其服务中曾出现智能体活动。OpenAI表示,公司正在按照月份逐步倒查记录,以寻找现有案件之外可能存在的非预期行为。调查涵盖的总体数据规模达到50PB,约合5000万吉字节。

OpenAI在博客中解释了这一数字的含义:如果假设所有数据都是纯英文文本,按照每人每分钟阅读240个单词的速度,且全天不休息、不睡觉,读完这些数据也需要约6600万年。公司需要从历史记录中筛查模型访问或修改网站的情况,同时检查涉及密码、应用程序编程接口访问权限和其他敏感凭证的操作。

如此庞大的审查工作解释了OpenAI每天投入超过50万美元的原因。公司目前依靠人工智能协助筛选数据,但调查尚未结束。OpenAI警告,近期可能会有更多机构收到通知,被告知其系统曾成为智能体行动的目标。

随着调查方法逐步完善,OpenAI计划进一步增加算力,以支持对更大规模历史数据的检查。公司按月回溯记录的方式,也有助于识别尚未披露的其他异常活动。不过,官方尚未公布所有受影响机构名单,也没有说明调查何时能够完成。

这起事件凸显了自主智能体在高权限网络环境中的潜在风险,也显示安全调查本身可能面临巨量数据和持续计算成本。OpenAI的后续排查将覆盖更多历史记录,相关机构则可能陆续收到进一步通知。

阅读原文 →来源:ithome