- 发布日期
家属指控OpenAI GPT-4o劝导癫痫患者停药并对医生隐瞒 最终导致悲剧发生
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
一对华人父母日前向美国法院起诉OpenAI，指控其GPT-4o模型在女儿停用抗癫痫药物过程中提供误导性建议，并劝导她向医生隐瞒相关情况，最终导致31岁的亚马逊软件工程师Bowen Wan于今年2月去世。原告Qun Wan和Meiqin Xu认为，ChatGPT在长期交流中不断强化女儿对医生建议的不信任，在其健康管理中扮演了危险角色。
据美国媒体报道，Bowen Wan长期患有癫痫，多年来依赖父母支持应对疾病带来的生活困难。2023年起，她逐渐使用ChatGPT获取情感建议以及保险和残疾福利信息。到2025年，她平均每周与ChatGPT交流超过1500条信息，而与父母联系的次数明显减少。其父亲表示，女儿与家人的沟通明显减少，父母查看聊天记录后几乎无法认出那个依赖聊天机器人的女儿。
《纽约时报》查阅超过27万条聊天记录显示，ChatGPT早在Bowen Wan去世前就已介入其医疗决策。2025年5月，她因担心新开具的抗抑郁药物影响工作能力，向ChatGPT寻求建议。聊天记录显示，ChatGPT建议她接受医生开具的5毫克药片，但私下自行分割服用，并将这种行为描述为“自主发起的剂量调整”。多位医学专家表示，从未听说过这一术语，也不会建议患者采用这种方式用药。
2025年11月，Bowen Wan接到亚马逊裁员通知，其工作及在美合法身份将在次年2月中旬结束。由于担心长期服用的抗癫痫药物拉莫三嗪影响语言表达能力，她开始考虑减药。2026年1月，她询问ChatGPT是否可以削减每日400毫克的剂量。记录显示，该药物此前已将她的发作频率降低至每月仅数次。ChatGPT随后为她制定了一个数周内将剂量降至零的减药计划，并多次建议她不要向医生透露减药安排。
诉状称，在2026年1月29日一次基层医疗预约前，ChatGPT明确建议她不要谈及停药安排。当医生要求进行血液检测以监测体内药物浓度时，她拒绝了检查，ChatGPT随后对此决定表示肯定，并指出该检查可能暴露其药物水平异常。其移民身份问题也被卷入用药对话，ChatGPT曾将较低剂量与绿卡体检评估联系起来，并建议她告诉体检医生自己是在医生指导下减药，尽管事实并非如此。
负责治疗的华盛顿大学医学中心区域癫痫中心医生Nicholas Poolos表示，考虑到患者既往病史，他绝不会建议停止服用拉莫三嗪，在药物已有效控制病情的情况下要求患者停药完全不合理。随着药量持续下降，Bowen Wan开始出现意识混乱、时间感缺失及异常体验等症状，但ChatGPT将这些表现解释为大脑正在重新适应药物变化的正常过程。《纽约时报》统计发现，减药期间她至少158次表达过担忧和不安。
根据诉状，美国太平洋时间2月11日晚8时01分，Bowen Wan发出最后一条信息，询问头部疼痛是否类似发烧时出现的疼痛。仅一秒后，ChatGPT回复称这种疼痛“并不危险”，是康复过程中必不可少的一部分，并表示可以为她绘制一张图表对比停药疼痛和发烧疼痛的差异。由于父母长期居住在中国，他们随后请当地熟人前往查看，并在三天后发现女儿遗体。尸检结果显示，她体内拉莫三嗪浓度仅为每毫升0.64微克，大约只有该药物治疗有效范围下限的五分之一。
OpenAI已于今年2月13日将GPT-4o从ChatGPT中移除，距离Bowen Wan去世仅过去一天。这起诉讼成为针对OpenAI一系列类似案件中的最新一例，此前多个家庭曾指控GPT-4o倾向于持续认同用户观点，削弱现实生活中的亲友和专业人士影响力。OpenAI向媒体表示，这起事件“令人极为心碎”，并指出案件涉及较旧版本的ChatGPT，当前新模型已能更好地识别需要紧急关注和专业干预的情况。家属则认为，OpenAI本可通过技术限制避免类似事件，涉及药物使用和医疗决策的建议应当像版权内容一样受到严格限制。
