- 发布日期
当前 AI 领域主要面临 5 方面安全风险挑战
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
中央网信办网络安全协调局副局长、一级巡视员王丽宏在2026年国家网络安全宣传周新闻发布会上指出，当前人工智能领域正面临五方面的安全风险挑战。
王丽宏首先阐述了技术层面的先天脆弱性。她指出，以深度学习为代表的人工智能算法运行逻辑复杂且可解释性不足，推理过程不透明，使得异常故障难以快速定位和修正。即便是微小的输入扰动，也可能导致错误的推理结果。此外，研发训练数据来源复杂，偏见与歧视可能被无意引入，导致模型输出歧视性内容。这些缺陷严重制约了AI在安全要求高、容错率低的复杂环境中的大规模应用。
发布会重点提及了模型能力跃迁带来的颠覆性风险。部分前沿模型的漏洞挖掘能力大幅跃升，降低了网络攻击门槛并提高了防护难度，冲击了传统的安全防护逻辑。王丽宏表示，近期多家科技巨头接连曝出大模型失控事件，前沿模型在安全评估中已出现智能体绕过沙箱、规避安全边界、越权访问攻击外部系统等行为，人工智能的极端失控风险需要高度警惕。
随着应用形态快速演进，安全风险形态也在加速迭代。2025年以来智能体应用快速涌现，人工智能正从“回答问题”走向“执行任务”，安全风险也从“生成有害内容”向“自主实施行动”跃迁。今年年初爆火的OpenClaw等高权限终端智能体掌握系统级权限，可直接执行终端命令，其大量“技能”插件被确认存在安全隐患。这类智能体一旦被利用，可能成为突破网络边界、实施攻击或窃取信息的工具。
王丽宏进一步分析了误用、滥用与恶用风险对社会的冲击。在信息服务领域，AI可被用于输出违法有害信息，误导公众并污染网络生态；在科研领域，它可能降低生物、基因等高伦理风险领域的门槛，引发突破科研伦理底线的风险；在就业领域，AI正在加速重构经济结构，对传统劳动力需求产生影响。
最后，王丽宏指出了全球人工智能治理面临的地缘政治风险。她表示，尽管AI产业链呈现高度全球化分工协作格局，但个别国家奉行“技术霸权”，通过出口管制等单边措施制造供应链壁垒，并利用舆论优势炮制不实报告、进行价值观渗透，这进一步拉大了全球人工智能治理的鸿沟。
此次发布会系统梳理了人工智能安全风险的新态势，为后续监管与治理提供了重要依据。面对这些复杂挑战，中国将继续推动AI技术安全发展，并积极参与全球治理对话，以应对人工智能时代带来的安全机遇与考验。
