- 发布日期
拟禁止“自我递归进化”AI 设立专门监管机构
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
美国加州民主党众议员罗·卡纳即将向国会提交一项全面人工智能监管法案，名为《人类控制人工智能法案》，希望对前沿AI技术建立迄今最严格的联邦监管框架。该提案要求实施严格责任制度，并禁止具备“递归自我改进”能力的人工智能系统投入使用，直到联邦政府建立完整安全保障体系为止。卡纳表示，这是目前最全面的人工智能安全监管提案之一。
法案出台正值美国科技界和政策界对先进人工智能潜在风险的担忧持续升温。近年来，多位AI企业高管公开警告，未来某些人工智能系统可能超出人类控制能力，而国会至今尚未形成全面监管方案。卡纳指出，人工智能不仅存在被滥用的风险，更可能带来失控风险，相关技术的发展已触及文明层面的安全议题，人类必须同时认真对待这两类问题。
根据法案内容，所谓“递归自我改进”人工智能将被禁止。这类系统被定义为能够自主提升自身能力，或自行修改核心目标、控制机制以及关闭规则的人工智能模型。在联邦安全规则建立之前，任何相关活动都不得开展，即便未来开放，也需经专门监管机构批准后才能进行。法案同时计划成立新的联邦人工智能监管机构，专门监督OpenAI、Anthropic、Google DeepMind以及xAI等开发前沿模型的企业。
该机构将承担制定AI安全法规、建立模型训练和部署许可制度、执行前沿模型审计，以及制定持续测试和有效人类控制标准等多项职责。技术安全要求包括隔离测试环境、网络隔离措施、紧急关闭系统，以及防止模型脱离实验环境进入开放互联网运行的控制机制。所有从事前沿模型开发的实验室都必须接受独立审计，审计人员将长期驻留并直接向监管部门汇报，而不通过企业管理层传递信息。此外，部分先进AI芯片和算力资源也被纳入监管范围。
在责任制度方面，该法案采取了明显强硬立场。提案要求人工智能公司在发布先进模型前购买大规模责任保险，以确保未来出现损害后具备赔偿能力。法案还引入刑事责任机制，员工若故意关闭安全保护、篡改日志记录、破坏隔离系统或明知未获授权仍部署相关模型，都可能面临刑事处罚。更引人关注的是，法案拟设立与“危害人类行为”相关的刑事责任条款，若某些人工智能系统造成大规模平民伤害，相关部署行为可能触发更严重的法律后果。
卡纳强调，法案内容主要来自与人工智能安全研究团体的长期交流，而不是根据大型科技公司的意见制定。他同时呼吁美国政府推动国际层面的人工智能安全合作，包括与中国达成可执行的安全协议，并建立验证、审查和控制机制，以降低未来危险人工智能系统扩散的风险。
分析人士认为，这项提案代表着美国国会内部一股日益增强的声音，即前沿人工智能不应仅依靠企业自律，而需要建立类似药品监管体系的政府监督机制。不过，法案未来能否顺利通过仍存在较大不确定性。支持者认为监管能够降低失控风险，反对者则担心过于严格的限制措施可能削弱美国在全球人工智能竞争中的创新能力。
尽管如此，随着人工智能能力持续提升，围绕“人类是否应该在技术失控前设置边界”的争论，已经正式进入美国立法层面，后续走向将取决于国会审议进程与各方博弈结果。
