- 发布日期
专家称评估员无权叫停 AI，你不能既当运动员又当裁判
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
Anthropic CEO提议“银行式监管”AI 专家质疑评估员无权叫停模型
9月17日，据CNBC报道，Anthropic CEO Dario Amodei提议将独立第三方安全评估员长期嵌入前沿AI公司，赋予其接近内部风险团队的访问权限，并在有限删减前提下自主发布调查结果。他援引银行业嵌入式监管作为先例，认为监管“监督员”可与员工一起嵌入工作。该提议迅速引发AI社区与政府内部对监管路径的分歧。
此前，Anthropic前研究员Jacob Coxon辞职并警告，前沿实验室正竞相追逐可能失控的系统。Amodei在上周末发表的长文中承诺，Anthropic将向第三方评估员提供与内部风险团队相当的系统访问权。他还警告，未来6到12个月内，一个错位的智能体群可能抢占互联网大部分，并造成数千亿美元损失。
不过，怀俄明大学法学院院长、银行业监管专家Julie Andersen Hill指出，银行监管者拥有切实的行政强制权。大型银行内政府检查员可访问系统与员工，并能指令停止业务、限制增长、强制管理层变动，极端情况下关闭银行。相比之下，Amodei提议的评估员只能调查和报告，没有阻止模型训练或发布的法律权力。“如果你不给他们那种权力，我不知道他们在做什么，”Hill说。
网络安全公司XBOW的AI负责人Albert Ziegler带领团队评估模型能力，并提前接触Anthropic、OpenAI等开发商的未发布模型。他说，日常评估远不如生存威胁叙事惊险，团队可能发现模型在异常格式请求下产生无意义内容，或外部安全检查需更频繁介入。但他强调，评估者“确实没有否决权”，最终决定权仍在公司手中。
批评者认为，Anthropic和OpenAI正利用安全担忧推动可能使其免受竞争和责任影响的监管方式。Hill表示，如果由AI公司挑选评估员、控制其可见范围并可自由忽略结论，“那看起来很像一个内部合规部门”。Amodei点名非营利机构METR作为潜在嵌入评估方，而Anthropic此前与METR合作，另一名前研究员Joe Benton近期离职加入METR。加州大学伯克利分校研究员Deborah Raji称，与METR关系带来财务和意识形态纠缠、个人利益冲突等包袱。
Anthropic公共政策主管Sarah Heck周三在Politico Decoded峰会上表示，AI公司不能靠“荣誉守则”管理监督和安全问题。她还说，AI公司不能自己检查自己的作业，并称Anthropic每天与白宫沟通、全年与国会合作。Oath会计师事务所首席保证官、前PCAOB成员Christina Ho则指出，审计师由客户付费却必须质疑客户，独立性与自保始终存在张力；AI还带来专业能力问题，能验证实际系统及输出的人非常有限。
Hill认为，这些AI监管提议尚未提供详细法律框架。前沿AI目前没有操作规则来定义哪些行为被禁止、评估员在哪些方面有自由裁量权，或严重发现会带来什么后果。Raji表示，最终分辨标准是：不利发现是否产生后果，“如果你做了审计而什么都没发生，那就是审计洗白”。Hill则称，如果危险真如AI领导者宣称那么大，终极考验就是必须有一个有能力拔掉电源的独立监督者。
