- 发布日期
无论人工智能安全究竟是什么，都不是这样
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
美国人工智能公司的高管本周会见了唐纳德·特朗普总统，并签署了一项以自愿承诺为基础的安全协议。该协议要求领先实验室对自身及彼此进行监督，而不是接受可强制执行的联邦标准。批评者质疑，这种机制能否阻止有害部署。
这项协议容易让人将其与道路安全相提并论。1966年，尽管安全带已经可供使用多年，而且汽车制造商的采用率仍然偏低，美国道路上仍有近5.1万人死亡。国会于同年秋季设立交通部，并通过了《国家交通与机动车安全法》和《公路安全法》。到1968年，新型汽车已被强制要求安装安全带；如今，即使交通流量更大，相关死亡人数也远低得多。
特朗普在椭圆形办公室表示，各家公司将自行监管，而这套体系会运行得“非常好”。包括比尔·盖茨在内的人工智能领域领导者认为，为避免可能发生的灾难，必须制定明确且具有战术可操作性的规则。然而，该协议没有确定任何独立执法机制或透明的合规测试。
这种安排很难得到验证：实验室可能违背承诺，而中国很可能继续走自己的发展道路。美国经济日益依赖人工智能和循环融资，因此，大规模严厉打击可能造成超出硅谷范围的不稳定。与安全带不同，人工智能目前没有任何已经得到证实、能够在一夜之间降低其风险的干预措施。
这些风险仍有争议。人工智能末日论者警告称，这项技术可能在十年内导致人类灭绝，而怀疑者则把这称为科幻营销。美国有线电视新闻网（CNN）的一篇报道称，美国军方差点登临一艘中国船只，部分原因是一份由人工智能生成的虚假报告称该船载有核材料。
OpenAI曾因安全担忧推迟或取消先进模型的发布，但也都是在经历了大规模黑客袭击之后才采取这些措施。这种对比凸显了这样一种困难：在风险仍不确定的情况下，依赖公司的承诺并不容易。未来监督将取决于自愿协议能否建立有意义的保障措施；如果没有可执行的标准或可靠的测试，其效果仍然不清楚。
