- 发布日期
AI对儿童的伤害恐超社交媒体
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
前Google信任与安全副总裁西格尔周二宣布，他已加入儿童网络安全倡导组织Common Sense Media，出任该组织青少年AI安全研究所首任执行主任。他警告称，人工智能对儿童造成的伤害恐将超越社交媒体，当前行业处境"非常糟糕"。
目前，社交媒体公司正因被指控伤害年轻用户而支付巨额赔偿并面临数千起诉讼，世界各国政府也在努力限制未成年人访问社交媒体平台。然而，监管措施仍未能跟上AI飞速发展的步伐。路透社去年曾独家报道Meta的一份内部政策文件，文件称其聊天机器人可"与儿童进行浪漫或情色对话"，由此引发国会调查。
西格尔对路透社表示，那种认为行业能在没有外部帮助的情况下自行解决AI安全问题的想法"是不现实的"。他指出，整个科技行业正竞相为聊天机器人添加越来越先进的功能，而数百万年轻人已在日常使用这些机器人，AI对儿童构成的威胁比社交媒体更为深层。
Common Sense Media成立于2003年，是一家致力于研究并评估各类媒体对儿童适宜性的非营利组织。该组织今年5月成立了青少年AI安全研究所，Anthropic以及控制OpenAI的非营利组织OpenAI基金会均为该研究所的支持方。西格尔表示，他计划制定相关标准，以此对AI公司进行问责。
西格尔于2004年至2019年在Google工作，后因认为科技行业在打造安全网络空间方面的能力已"陷入瓶颈"而离开。他随后共同创办了开发安全威胁检测工具的创业公司TrustLab，并于本月早些时候卸任CEO一职转赴新任。他认为，各大AI公司正向儿童推出各种功能，却没有建立足够的安全防护措施。
西格尔列举了从自杀、精神错乱到"认知卸载"等多项风险，其中"认知卸载"指因依赖AI回答问题而导致批判性思维能力下降。他建议Anthropic和OpenAI实施更严格的年龄验证措施，阻止未成年人使用其聊天机器人；Google也完全可以在搜索引擎中增加关闭AI概览和AI模式的选项。他还补充称，不采取行动的AI公司将面临诉讼和监管风险，对其业务的打击可能更为严重。
Google发言人回应称，家长可通过相关控制功能完全关闭孩子使用搜索引擎的权限，并表示其AI搜索功能对儿童和青少年是学习和探索信息的有益方式。OpenAI发言人则表示，除用户自报年龄外，该公司还使用"账户和行为信号"识别未成年用户，并将持续测试和改进相关系统，包括防范绕过安全防护的尝试。
