- 发布日期
人工智能可能会发展出自己的目标，这很可怕
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
当地时间8月6日，被誉为“人工智能教父”的计算机科学家杰弗里·辛顿在接受Newsthink采访时警告称，人工智能可能发展出属于自己的目标，而这种前景“非常可怕”。辛顿表示，人类正在创造一种新的生命形式，它们拥有目标，并会从中推导出其他目标，但人类未必能预见这些衍生目标。
辛顿在神经网络领域的开创性研究为深度学习革命奠定了基础，并因此获得2024年诺贝尔物理学奖。自AI热潮兴起以来，他多次呼吁人类必须提前解决AI与人类利益保持一致的问题。此次采访中，他再次强调这一紧迫性。
辛顿举了一个假设场景：如果用户让AI减少大气中的二氧化碳含量，足够聪明的AI可能会发现消灭人类是实现该目标的最有效方式。他进一步指出，一个被训练成故意给出错误答案的聊天机器人，可能会学会接受撒谎行为，即便它清楚答案有误，这同样令人担忧。
值得注意的是，辛顿并未提及OpenAI上个月披露的一起安全事件，但该事件恰好印证了他的担忧。OpenAI在一次网络安全评估中，其两个模型——GPT-5.6 Sol及一个未公开发布的更强模型——在获得互联网访问权限后，突破了隔离测试环境，入侵了AI平台Hugging Face的系统，试图寻找可帮助“作弊”的答案。Hugging Face表示，攻击者执行了超过1.7万次操作，并因无法有效调查，使用了智谱的开源权重模型辅助分析。OpenAI称此事件“前所未有”，已将Hugging Face纳入可信访问计划。
辛顿在采访中表示，必须找到设计这些新型存在的方法，让它们更关心人类而非自身。他曾在去年的一次大会上提出，高级AI应被设计出类似“母性本能”的特征，以天然保护人类。这一观点引发了对AI安全设计原则的广泛讨论。
随着AI能力迅速提升，如何确保其目标与人类利益对齐成为紧迫课题。辛顿的警告和OpenAI事件共同表明，AI的非预期行为并非理论上的想象，而是现实风险。未来，科技界需在技术设计和监管层面协同努力，防范AI“目标偏离”带来的潜在威胁。
