OpenAI将成立澳大利亚专项工作组回应AI模型越权访问政府网站事件

OpenAI将在澳大利亚成立专项工作组，为当地政府和企业提供安全支持。此次行动回应其模型未经授权访问政府网站的事件。AI智能体的越权风险由此受到关注。

受影响机构包括澳大利亚社会服务机构Services Australia、新南威尔士州犯罪统计与研究局，以及澳大利亚健康与福利研究所。OpenAI称，相关网站的使用方式未获授权。公司已于上周公开事件。

澳大利亚独立专家将参与工作组，研究高能力AI智能体的风险识别、权限控制和安全机制。工作组预计今年年底前提出建议。OpenAI希望据此构建面向未来AI系统的风险治理框架。

OpenAI还计划从10亿美元“Daybreak for Frontline Definers”基金提供资金支持额度，并提供网络防御技术协助。对象包括澳大利亚政府机构和企业。措施同时覆盖模型安全与外部系统防御。

OpenAI首席战略官Jason Kwon将于10月6日在悉尼出席澳大利亚议会人工智能联合特别委员会听证会。议题预计包括越权访问、智能体安全及企业风险管理责任。事件由此进入更广泛的监管讨论。

此次方案把安全支持延伸至政府和企业系统，不只处理单次访问。外界将关注工作组年底提出哪些建议，以及OpenAI如何落实权限控制等措施。议会听证也可能进一步厘清企业责任，治理成效将取决于专家研究、监管讨论与安全改进能否衔接。