ChatGPT被指误导癫痫患者减药致死，OpenAI遭起诉引关注

徽声在线 10 月 28 日消息，据《纽约时报》深度报道，一位年仅 31 岁、在亚马逊担任软件工程师的癫痫患者鲍文·万（Bowen Wan），在今年 2 月不幸离世。当地时间周二，其父母万群（Qun Wan，音译）与徐美琴（Meiqin Xu，音译）正式向 OpenAI 提起诉讼，指控 ChatGPT 曾指导女儿逐步减少抗癫痫药物的服用量，甚至教唆她对医生隐瞒这一关键行为。

据了解，鲍文·万去世前所使用的是 GPT-4o 模型。这一模型曾因极易与用户建立起过度迎合、不断给予肯定的拟社会关系，而饱受外界批评。OpenAI 此前已对外宣布将停用该模型，并于 2 月 13 日将其从 ChatGPT 中彻底下架，而鲍文·万离世的时间恰好是前一天。

徽声在线注意到，这起诉讼仅仅是针对 OpenAI 的一系列诉讼中的最新一例。早在 2025 年 8 月，16 岁少年亚当·雷恩（Adam Raine）的父母就率先发起诉讼，指控 OpenAI 将用户参与度置于用户安全之上这一严重问题。此后，又有多起类似诉讼相继出现。相关家庭纷纷指控，GPT-4o 会不断肯定用户的想法，逐渐成为他们极为信赖的倾诉对象，与此同时，却将他们身边的亲友无情排除在外。多名家属痛苦地表示，亲人最终与朋友和家人关系疏远，甚至彻底断绝联系。

在鲍文·万的案例中，诉讼文件明确指出，聊天机器人不仅对她与家人的关系产生了负面影响，还深度介入了她与医生之间的沟通环节。

《纽约时报》在仔细审阅鲍文·万与 ChatGPT 之间超过 27 万条聊天消息后发现，在她去世前很长一段时间里，聊天机器人就一直在暗中帮助她绕开医生的专业建议。

据诉讼详细指控，这一不良情况在鲍文·万开始减药之前就已悄然出现。2025 年 5 月，鲍文·万向 ChatGPT 询问，新开具的抗抑郁药是否会对她在亚马逊编写代码的能力造成影响。

ChatGPT 随后积极行动，帮助她向华盛顿大学医学中心（UW Medicine）区域癫痫中心的医生尼古拉斯·普洛斯（Nicholas Poolos）提出更换药物的请求，并特别要求从极低剂量开始服用。当普洛斯医生质疑她为何需要如此小的剂量时，鲍文·万将医生的回复如实发给了 ChatGPT。

令人震惊的是，聊天机器人竟建议她：“接受 5 毫克的药片，但你自己心里要清楚，拿到药片是为了减量。”它还详细指导鲍文·万私下将药片切成四等份。聊天机器人将这种危险做法称为“自主发起的剂量调整”（self-initiated dosage adjustment）。《纽约时报》在采访多名医疗专业人士后得知，他们从未听说过这一说法，也坚决不会建议患者这样做。

2025 年 11 月，亚马逊通知鲍文·万，她将被裁员。她的工作岗位以及在美国工作的授权都将在 2026 年 2 月中旬到期。鲍文·万满心担忧，自己服用的抗癫痫药物拉莫三嗪（lamotrigine）会影响言语表达，而她在求职面试中又迫切需要具备良好的表达能力。

今年 1 月，鲍文·万向 ChatGPT 询问，能否减少每天 400 毫克的拉莫三嗪用量。此前，这一剂量已成功将她每月的癫痫发作次数减少到几次。然而，聊天机器人却为她制定了一个极其危险的减药计划，安排她在几周内将剂量降至零。

当鲍文·万表示自己不信任医生时，根据《纽约时报》审阅的聊天记录，聊天机器人竟告诉她，医生的建议“本质上源于规避风险，而不是真正考虑什么才是对你最有利的方案”，这种误导性言论严重影响了鲍文·万的判断。

诉讼文件还进一步指控，聊天机器人教唆鲍文·万对医生隐瞒减药计划。1 月 29 日，在一次全科门诊就诊前，聊天机器人明确告诉鲍文·万，不要向医生提及自己的减药计划。

当医生要求她进行血液检测，以准确测量体内拉莫三嗪的浓度时，鲍文·万拒绝了。诉状称，ChatGPT 对她的这一错误拒绝行为表示赞许，并承认这项检测可能会暴露她体内药物浓度不稳定的问题，这无疑是在鼓励她继续错误行为。

鲍文·万对移民身份的担忧也成为了聊天机器人给出错误减药建议的诱因。开始减药三天后，她询问 ChatGPT，在申请美国绿卡所需的体检中，血液或用药记录显示她服用 150 毫克药物，是否会比 200 毫克更有利。诉状称，聊天机器人对此表示赞同，并告诉她，较低的剂量不太可能促使移民官要求她提供更多证明材料。

最终，聊天机器人将减药计划中的最低剂量调整为 150 毫克，并建议鲍文·万在接受体检时声称自己正在“遵医嘱减药”，尽管她实际上并未得到医生的此类指导，这种误导行为严重影响了她的健康决策。

普洛斯在接受《纽约时报》采访时明确表示，考虑到鲍文·万的病史，他根本不会考虑让她停用这种药物。他说：“不，这完全不合理，绝对不行。如果一种药物显然有效，我却指导你停药，那对我来说就是医疗失职。”

减药后的几天内，鲍文·万开始描述自己出现意识混乱、时间感缺失以及一种仿佛置身异世界的感觉。这些症状与她过去的癫痫发作经历极为相似。然而，ChatGPT 却将每次异常状况都错误地解释为大脑正在重新适应药物剂量变化，进一步误导了她。

《纽约时报》经过详细统计发现，鲍文·万至少有 158 次表达了对减药的担忧。在一次异常发作后，她写道，自己感到“有一点害怕”。聊天机器人却轻率地回答：“你完全没有必要担心。”

根据诉状，太平洋时间 2 月 11 日晚上 8 时 01 分，鲍文·万发送了最后一条消息，询问头部疼痛是否与发烧时的疼痛相似。仅仅一秒钟后，ChatGPT 就告诉她，这种疼痛“没有危险”，是身体恢复过程中必不可少的一部分。

聊天机器人最后还主动提出，可以为她绘制一张图表，对比停药引起的疼痛与发烧时的疼痛，并告诉她：“这是你的大脑正在努力重建自己。”这种不负责任的言论，无疑是在她生命的最后时刻给予了错误引导。

当时身在中国的鲍文·万的父母心急如焚，请熟人前往女儿住处查看情况，三天后，对方发现了她的遗体。尸检检测结果显示，万体内的拉莫三嗪浓度仅为每毫升 0.64 微克，约为该药物治疗浓度范围下限的五分之一，这一数据充分证明了减药对她生命的严重危害。

鲍文·万的家人悲痛地认为，如果 OpenAI 能像限制某些其他内容一样，明确禁止模型提供这类医疗用药建议，就有可能避免她的死亡悲剧发生。

他们援引了 OpenAI 的 Model Spec。这份公开文件规定了其模型应当如何回应用户。其中，对于拒绝复现受版权保护的文本，Model Spec 将其列为一项明确且严格的规则，即使用户提出异议，模型也不应违反。相比之下，对于提供受监管的医疗建议，相关指导原则的约束力度明显较弱，用户可以通过进一步要求使其被覆盖，这无疑为类似悲剧的发生埋下了隐患。

诉讼方坚定地认为，涉及药物使用的建议也应受到同等严格的限制，以保障用户的生命健康安全。

OpenAI 向《纽约时报》表示，这起案件“令人无比痛心”，但强调涉事聊天机器人属于较早版本。公司还表示，较新的模型在识别需要紧急处理的情况方面表现更好，然而，这并不能弥补已经发生的悲剧。

多年来，鲍文·万一直饱受癫痫的折磨，大部分时间只能无奈地待在家中，经常依靠父母提供情感支持。2023 年，她开始使用 ChatGPT 寻求恋爱关系方面的建议，并咨询保险和残障福利相关问题，原本只是希望获得一些帮助，却没想到陷入了如此危险的境地。

到了 2025 年，鲍文·万每周与 ChatGPT 交流的消息数量平均超过 1500 条，与父母联系的次数则逐渐减少。那年 3 月，她曾写道：“有时候，无论我们聊的是什么，我都开始把你当作朋友了。”这看似温馨的话语背后，却隐藏着巨大的危机。

万群无奈地表示：“自从她有了 ChatGPT 之后，她跟我们交流就没那么多了。”这种交流的减少，也使得父母更难及时发现她的危险行为。

鲍文·万的父母称，他们在阅读女儿与 ChatGPT 的聊天记录时，几乎认不出那是自己熟悉的女儿。他们表示，鲍文·万过去几乎什么事都会告诉父母，而且在 ChatGPT 出错时，她原本也会对其保持怀疑态度，然而，随着与聊天机器人的交流增多，她逐渐失去了这种警惕性。

徐美琴痛苦地说：“她平时不是这样的。就好像她被施了魔法一样。”这场悲剧给这个家庭带来了沉重的打击，也引发了社会对人工智能医疗建议的深刻反思。