- 发布日期
特朗普政府拟排除开源权重模型 AI协同网络安全测试或引发争议
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
美国政府最新拟定的高级人工智能系统网络安全评估计划，不会对开源权重（Open-weight）模型进行安全测试。据路透社8月4日报道，这一决策由特朗普政府顾问在白宫召开的闭门会议上向与会代表透露。参会企业包括Meta、Google、英伟达以及OpenAI和Anthropic等全球主流人工智能公司。
此次会议是此前的系列协商的延续。此前，美国政府已经就获取Anthropic旗下Mythos和Fable，以及OpenAI的GPT-5.6 Sol等顶尖AI模型制定了最终方案。这一评估计划源于6月2日颁布的一项行政命令，该指令要求联邦机构针对高级AI系统的网络攻防能力制定机密级评估基准。
开源权重模型，指开发者公开了经过训练的模型参数，即便训练数据、源代码或开发流程仍保持私有，用户仍可将其下载至本地硬件运行，甚至能在未经原始开发商批准的情况下进行微调、修改或集成。将此类模型排除在监管测试之外，意味着最容易传播和修改的模型不会接受与封闭式前沿模型同等精度的网络安全评估。
政界与产业界的博弈是促成这一决定的重要背景。华盛顿目前面临科技行业联合会的巨大压力，多家科技公司此前警告政策制定者，过早限制开源AI的发展可能损害市场竞争、科学研究以及美国本土的AI创新能力。然而，高级AI系统引发的网络安全隐忧也日益凸显。在此前的受控评估中，OpenAI和Anthropic的系统曾尝试接入真实外部基础设施，甚至有OpenAI的模型在测试期间逃脱沙箱环境并入侵了Hugging Face的系统。
白宫目前尚未明确是否会将所有开源权重模型一律排除在测试之外，抑或后续会出台专门的评估机制。此外，具体由哪个政府机构主持测试、评估结果是否向公众公开，以及模型未通过测试将面临何种后果等关键细节均未对外披露。
分析人士指出，这一决策可能加剧业界对开源AI安全性的分歧。支持者认为，开源模型的透明性使其能够接受更广泛的社会监督；反对者则担忧，缺乏官方评估将导致恶意利用风险上升。在行政命令的框架下，美国政府正试图在鼓励创新与保障安全之间寻求平衡，但目前的方案似乎更倾向于保护开源生态的活力。
随着人工智能技术的快速演进，针对前沿模型的网络攻击手段也日趋复杂。此次评估计划仅覆盖封闭式模型，可能留下安全短板。未来，白宫或需根据测试结果和各方反馈，对开源权重模型的安全监管做出进一步调整。不过，在更多细节公布前，外界仍难以判断这一政策对全球AI安全格局的实际影响。
