- 发布日期
英伟达、思科等 120 家组织提议建立 AI 智能体事故追踪机制
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
由英伟达、思科和CrowdStrike等120多个组织组成的联盟近日提议建立一套针对AI智能体的事故追踪机制，该机制要求参与公司披露特定智能体安全事件，并保存详细记录。相关提案已以草案形式对外公开，旨在为快速发展的AI智能体领域提供统一的安全事件报告标准。
随着AI智能体在计算机系统中获得越来越大的自主权，业界在报告安全故障和从中吸取教训方面缺乏标准方法。现有网络安全事件通报机制往往针对传统软件，无法覆盖智能体特有的行为，如自主探测、调用工具或动态决策。这一空白可能导致安全事故被忽视或碎片化传播，削弱整体防御能力。
该框架名为“共享人工智能发现交流”（SAFE），由开放安全人工智能联盟制定，聚焦于AI智能体引发的网络安全事件报告方式。草案明确要求报告的事件包括：AI系统未经授权访问或利用第三方系统、泄露机密信息，或在操作员怀疑活动未经授权后继续探测生产目标。此外，成员还需报告某些险些发生的事件，并保存事件证据，涵盖提示、智能体追踪、工具调用、身份、权限和凭证。
根据拟议时间表，成员应在事故发生后尽快通知受影响组织，于四个工作日内提交初步保密报告，在适当情况下30天内发布初步事实报告，并在90天内提供补救措施更新。SAFE还将负责分析事件，找出重复出现的故障，并提出共享安全控制建议。这一流程借鉴了NASA航空安全报告系统，后者利用飞机飞行记录器数据调查事故。
联盟认为，网络安全领域现有的共享威胁情报文化有助于推动公司参与。英伟达企业计算副总裁Justin Boitano表示，该计划以NASA系统为蓝本；英伟达副首席信息安全官Julien Soriano则透露，业界几乎没有阻力，人们渴望分享经验。参与方包括模型部署者、AI开发者、云和工具提供商、独立研究人员及关键基础设施运营商，政府机构将受邀作为“非控制性观察员”。
目前，开放安全人工智能联盟正通过Linux基金会主办的征求意见流程，就提案寻求社区反馈。该机制有望成为AI安全治理的重要基石，但具体落地仍需解决隐私、责任归属和跨国协调等挑战。随着智能体应用日益普及，这一框架或为全球AI监管提供参考范本。
