- 发布日期
医疗 AI 转录工具频繁出错，威胁患者安全
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
英国国家医疗服务体系（NHS）的一家监管机构近日发出警告，指出用于转录医患问诊内容的AI工具可能对患者安全构成严重威胁，因其频繁出现识别错误。这一警示由英国患者权益机构Healthwatch England发布，其调查揭示了多起AI医疗记录工具出错的案例，引发了对快速推广该技术可能带来风险的关注。
Healthwatch披露的具体案例凸显了问题的严重性。其中一起事件中，一名女性患者——本人也是NHS医疗专业人员——因AI工具错误总结其问诊记录而受到惊吓。AI生成的总结称她患有“脱髓鞘”，一种可能导致多发性硬化症的严重神经损伤，而实际应记录为“无脱髓鞘”。该患者在对MRI结果提出质疑后，医院才发现并更正了这一错误。
另一案例中，AI工具将全科医生开具的药物与另一种名称相似的药物混淆，错误同样是由患者本人而非医生发现。此外，AI生成的总结还遗漏了专科医生关于续开偏头痛处方的指示，可能导致患者无法及时获得所需药物。Healthwatch表示，已收到多名患者发现类似错误而医疗专业人员未察觉的报告。
这些错误若未被及时发现，可能被录入患者医疗档案，进而影响后续治疗。英国政府原计划通过AI医疗记录工具让医务人员摆脱繁重的文书工作，从而腾出更多时间服务患者，并将其作为NHS从模拟化转向数字化的核心技术之一。目前，英格兰的全科医生和医院医生已在使用27种不同的AI医疗记录工具。
然而，错误的频发引发了对监管缺失的担忧。Healthwatch指出，英国药品和保健产品监管机构（MHRA）决定不将AI医疗记录工具归类为医疗器械，这意味着英格兰不会建立覆盖全境的监管机制以确保其安全有效。该机构强调，迫切需要明确患者如何报告和纠正AI工具或医疗专业人员所犯的错误。
伦敦全科医生Shier Ziser Dawood博士曾在《英国全科医学杂志》上警告，AI医疗记录工具对全科医生来说可能是一把“双刃剑”。她亲身经历了一款AI工具错误记录她曾建议患者服用“百忧解”，而实际上既未开药也未讨论该药，这被称为“AI幻觉”现象。Dawood指出，医生仍需检查AI生成的全部记录以确认无误，因此这些工具目前并未真正节省时间。
瑞典乌普萨拉大学医疗AI专家Charlotte Blease博士的研究进一步证实，AI确实会犯错。她的调查发现，在以下情况下AI更易出错：问诊过程中有多人参与、患者病史复杂或患者第一语言非英语。然而Blease也承认，没有AI时医生同样会犯错，且AI介入后错误率可能更高。不过，在她对1003名英国全科医生的调查中，超过半数受访者认为AI生成的记录比自己亲自记录的内容更准确。
