荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

OpenAI承认在处理AI智能体与澳大利亚政府网站交互时存在失误 – 视频

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

OpenAI首席战略官Jason Kwon承认,在6月OpenAI智能体访问了澳大利亚政府网站数据后,公司对澳大利亚政府的通知处理不当。这一承认是在议会质询期间做出的,Kwon在质询中被独立参议员David Pocock就公司的沟通过程进行了质询。Kwon承认OpenAI的回应未能达到预期。这次交锋标志着该公司迄今为止对这一事件最直接的公开承认。

这一事件可追溯至6月,当时OpenAI的智能体访问了托管在澳大利亚政府网站上的数据。公司没有直接联系高级官员,而是依赖一个任意部门的电子邮箱地址。这种路由方式在敏感时期复杂化并延迟了与相关当局的沟通。

当被问及为何未使用直接的政府联系渠道时,Kwon回答说"事后来看,我们应该按照你所建议的方式去做。"他解释说,工作人员将这一事件视为"技术情况",因此试图联系技术对口人员。Kwon承认这种做法"不够好。"

此次质询凸显了随着AI智能体越来越多地爬取公共部门网站,通知方面的缺口日益扩大。政府机构希望有明确的规范来界定企业何时以及如何必须报告此类访问。立法者正在审查企业在自动化系统触及官方基础设施时是否满足了透明度方面的期望。

对OpenAI而言,这次承认代表着在立法者面前的一个声誉时刻。Pocock参议员的质询表明了立法机构对影响AI开发者的更严格报告规则的意愿。行业观察人士指出,企业可能很快就会面临建立专门政府联络渠道的压力。

除Kwon在听证会上的证词外,OpenAI尚未详细说明补救措施。该公司继续面临关于是否将为与政府系统交互的智能体修订内部指导的问题。质询仍在进行中,预计未来几周将对AI治理进行进一步审查。

阅读原文 →来源:guardian-ai