英格兰的医院和诊所里,一种能自动「听写」病历的 AI 工具正在快速铺开。但英国国家医疗服务体系(NHS)的患者权益机构 Healthwatch England 近日披露:这类工具已经多次把病历写错——把没得的病写进记录、把药名搞混、把医生的嘱咐漏掉,正在威胁患者安全。
先说明白这类工具是什么。它叫 AI 医疗记录工具,也叫环境式 AI 转录工具:医生问诊时,机器在旁自动记录对话,再把对话整理成结构化的病历和总结信。NHS(National Health Service,英国国家医疗服务体系,全民公费的医疗系统)正把它当作数字化转型的核心技术,目标是让医生从写病历的文书劳动中解放出来,把时间还给病人。目前,英格兰的全科医生(GP,负责普通门诊、患者就医第一站的医生)和医院医生,一共在用 27 种不同的 AI 医疗记录工具。
误报疾病:把「没病」写成「有病」
Healthwatch 披露的第一起案例是一位女性患者。AI 生成的病历总结称她患有「脱髓鞘」——一种神经纤维保护层受损的病变,可能发展成多发性硬化症(一种严重的神经系统疾病)。她本人就是 NHS 的医疗专业人员,对 AI 记录的核磁共振(MRI,用磁场成像检查大脑等器官的检查手段)结果提出质疑后,医院核查才发现真实结果应为「无脱髓鞘」并作了更正。患者回忆:「AI 给出了错误诊断,然后又告诉我这只是一个拼写错误,这是一次非常痛苦的经历。」
混淆药物:相似药名被写错
另一起案例里,一款工具把全科医生开的药,写成了另一种名称相似的药。发现错误的人不是医生,而是患者本人。
遗漏医嘱:续药提醒没被写进记录
还有一次,AI 生成的总结信漏掉了专科医生「向全科医生申请续开偏头痛处方」的嘱咐。如果患者没有发现,就可能断药。
Healthwatch 表示,已听到「多名患者发现错误、而医疗专业人员却没有发现」的案例,并警告:这些错误一旦没被发现,就会写进患者医疗档案,进而影响后续治疗。
患者成了错误的第一发现者
目前最突出的问题是缺少纠错流程。Healthwatch 发言人说,医疗服务不可能零错误,但当务之急是明确:患者和医生遇到 AI 记录错误时,该向谁报告、如何纠正。英国患者协会首席执行官 Rachel Power 直言:患者对这项技术的信任,取决于良好的沟通和真正的患者合作,而目前这两方面都存在缺失。
监管空白:AI 病历工具不算医疗器械
另一个隐患在监管层面。英国药品和保健产品监管机构(MHRA,负责药品与医疗器械安全管理的机构)决定不把 AI 医疗记录工具归类为医疗器械——医疗器械属于受严格监管的设备类别。Healthwatch 认为这令人担忧:意味着英格兰没有覆盖全境的监管机制,来确保这些工具安全且有效。此前,政府大臣已被警告:如果 AI 在医疗上出错,NHS 和相关医务人员可能面临诉讼。
医生视角:AI 幻觉与没省下的时间
「AI 幻觉」指 AI 一本正经地生成问诊中根本没有出现过的内容。伦敦全科医生 Dawood 博士去年在权威期刊《英国全科医学杂志》撰文:一款工具记录她曾告诉患者「继续服用 Prozac(百忧解,一种抗抑郁药)」,但实际上她既没开过这个药,也没与患者讨论过它。
Dawood 判断这类工具是「双刃剑」:因为医生必须逐条核对 AI 生成的全部记录,工具目前并没有真正省下时间;而 NHS 管理层却可能因为医生不再手写笔记,要求全科医生每天额外接诊两名患者——英国全科医生单次问诊时间本已是全球较短水平。
另一面:多数医生认为 AI 记录更准确
瑞典乌普萨拉大学的医疗 AI 专家 Charlotte Blease 博士曾调查 1003 名英国全科医生:超过一半受访者认为,AI 生成的环境式医疗记录比自己手写记录更准确。她同时概括了 AI 更容易出错的场景:问诊现场有不止一名患者或陪同人员、患者病史复杂、患者的第一语言不是英语。
Blease 的态度很直接:AI 确实会犯错,而且已经在犯错;但她也提醒,没有 AI 时,医生同样会犯错,AI 介入后错误率也可能更高。
结论
AI 医疗记录工具的账要算两面:它可能比人手记录更全、更快,也可能把「脱髓鞘」写进健康人的病历。眼下英格兰已用上 27 种工具、NHS 还在继续推广,但错误上报机制、监管归类、医生核对负担三件事都没有跟上。在推广速度和患者安全之间,缺的不是更聪明的模型,而是一套「错了能发现、能纠正、能追责」的机制。