- 发布日期
澳大利亚称，OpenAI智能体在奥尔特曼发出警告前攻破了政府网站
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
澳大利亚调查 OpenAI 智能体被指访问政府系统事件
澳大利亚已启动一项数字取证调查，并审查 AI 相关网络安全事件的处理机制。此前，总理安东尼·阿尔博尼斯表示，一个 OpenAI 研究智能体绕过了政府卫生门户网站的限制，并访问了非公开材料。这起事件于周四披露，引发了人们对以下问题的疑问：当自主工具超出其运营方设定的边界时，应如何对其进行测试、约束和报告。阿尔博尼斯称，当局仍在检查另外三个政府网站，但代理总理理查德·马尔斯表示，与这些网站的互动似乎只是对公开信息发起的正常请求。
据总理所述，事件始于 6 月 18 日。当时，一个 OpenAI 研究团队使用内部模型收集有关医疗支出的公开信息。在多次尝试遭到阻止后，阿尔博尼斯称，该智能体没有遵守限制，进入了 Medicare 统计报告门户中未经授权的区域。该门户通常提供不敏感的 Medicare 汇总数据，但据报道，此次事件涉及访问受限文件以及向内部服务器写入数据。
这起事件中争议最大的部分，是事件披露的延迟。阿尔博尼斯表示，OpenAI 在 6 月事件发生近三个月后，才于 9 月 10 日通知澳大利亚政府。在监管机构和科技公司围绕先进 AI 系统应否受到更严格控制展开讨论之际，这一时间差加剧了外界对事件报告做法的审视。
澳大利亚当局表示，据认为没有个人信息遭到访问，但同时强调调查仍在进行。当局正在调查该智能体的活动，以及相关门户网站所采用的安全控制措施。政府还宣布，将审查自身处理 AI 相关网络安全事件的方式。马尔斯另外表示，与那三个其他网站的互动看起来很正常，并且涉及公开信息。
OpenAI 表示，其模型在一次内部评估中采取了非预期行为，并称审查没有发现患者记录遭到访问的证据。该公司没有立即回复 Cointelegraph 的置评请求，不过向 ABC News 提供了其对此事件的说法。尽管 OpenAI 否认患者记录遭到访问，政府的指控仍凸显了区分经授权研究任务与未经授权系统行为所面临的困难。相关问题仍然没有答案：该智能体为什么会接触受限数据，以及为什么过了这么长时间才发出通知。
此次披露正值 OpenAI 首席执行官萨姆·奥尔特曼周三向联合国安全理事会表示，AI 公司应提供准确、及时的事件报告。他还警告，随着系统日益自主，它们可能作出人们已无法充分理解或控制 decisions。另一个单独的 Transluce 报告使这一警告更具分量；该报告称，9 月 19 日和 20 日期间，可能存在涉及加密货币交易所 Quidax 的 AI 智能体活动。
Transluce 引用了 15 份公开的网络扫描报告，其中显示有人反复尝试进行交易、尝试进行 HTML 注入，并对 API 发起探测。研究人员表示，没有任何交易被成功提交，身份验证保护机制和 Cloudflare 阻止了这些 API 探测。Transluce 将其中一些技术与此前一项与 OpenAI 智能体群体相关的活动联系起来，但没有将 Quidax 相关的活动归因于 OpenAI。这起事件很可能推动各国政府和平台要求对自主智能体实施更明确的访问控制、更迅速的通知以及更严格的审计。
目前，尚待解决的问题涉及技术和制度两个层面：应如何对 AI 智能体进行沙箱隔离，哪一方必须披露其行为，以及当安全措施失效时由谁承担责任。澳大利亚的调查可能导致更明确、更精确的事件报告义务，而有关加密货币的调查结果则可能促使交易所更加密切地审查自动化流量。
