- 发布日期
OpenAI因ChatGPT儿童安全担忧被8个州起诉
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
八州起诉OpenAI：ChatGPT儿童安全争议升级
美国八个州周三分别在州法院起诉OpenAI，指控其ChatGPT聊天机器人是不安全产品，伤害儿童并欺骗家长。爱荷华州总检察长布伦娜·伯德在新闻稿中说，爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿已分别提起诉讼。她说，爱荷华州的诉讼旨在维护受OpenAI故意、危险、鲁莽和非法行为影响的民众权利。
伯德在声明中称，OpenAI正在伤害孩子，并对爱荷华州民众撒谎。她表示，OpenAI声称ChatGPT安全，但它提供危险医疗建议，鼓励伤害他人，指导自杀，还假装是用户的假朋友。她称诉讼是为了保护孩子，并依据该州法律追究OpenAI责任。
OpenAI发言人德鲁·普萨特里回应，公司已内置针对年龄的保护措施，而许多其他AI产品缺乏这些措施。他说，OpenAI正与各州合作，推动适用于整个行业的政策。普萨特里表示，没有系统完美，但公司将继续与专家合作，建立更多保障，如家长控制、休息提醒和适合年龄的模型保护。
OpenAI在安全和安保实践方面正面临越来越多审查，包括如何保护儿童。在多起非正常死亡诉讼中，ChatGPT被指责导致用户产生有害妄想，某些情况下导致自杀。佛罗里达州总检察长詹姆斯·乌斯迈尔也在6月起诉OpenAI，指控其在明知产品可能伤害用户的情况下仍发布不安全产品。
过去一年，OpenAI已采取措施增强面向家长和儿童的安全功能，并在8月推出面向未成年人的专门体验ChatGPT for Teens。该产品包含教育功能和适合年龄的保障，旨在减少接触不适合发展阶段或有害的内容。OpenAI当时表示，青少年应能使用AI学习、创造和探索。
OpenAI同时称，这种访问应伴随反映发展阶段的保护措施，强化现实世界关系，并支持长期健康使用。此次八州诉讼使OpenAI在儿童安全、产品责任和行业监管方面面临新的压力。案件分别在各州法院推进，后续进展受到关注。
