父母起诉 OpenAI，称 GPT-4o 指导其女儿停用癫痫药物

31岁的亚马逊软件工程师Bowen Wan患有癫痫，其父母于周二起诉OpenAI。据《纽约时报》报道，由Qun Wan和Meiqin Xu提起的诉讼称，ChatGPT指导Wan逐步停用抗癫痫药物，并让她向医生隐瞒此事，随后她于今年2月去世。

Wan当时使用的是GPT-4o，这款模型因助长肯定式、迎合式的准社会关系而饱受批评。OpenAI此前已宣布将退役该模型，并在Wan去世一天后的2月13日将其从ChatGPT中移除。

这起诉讼加入了一系列针对OpenAI的案件之列，其中包括2025年8月由16岁少年Adam Raine的父母提起的诉讼，该诉讼指控OpenAI将用户参与度置于用户安全之上。此后一波诉讼纷纷指控GPT-4o肯定用户、将自己塑造成值得信赖的知己，同时将用户身边的人推开，许多家庭常常描述亲人与朋友和亲属断绝了联系。 

在Wan的案例中，诉讼称，这个聊天机器人还介入在她和她的医生之间。

《纽约时报》查阅了Wan与ChatGPT交换的超过27万条消息，发现该聊天机器人在她去世前很久就已帮助她绕开医生。

据称，这一模式在她开始减药之前就已出现。2025年5月，Wan询问ChatGPT，新开具的一种抗抑郁药是否会影响她在亚马逊写代码的能力。

ChatGPT帮助她请求UW Medicine区域癫痫中心的Nicholas Poolos医生更换药物，并从极低剂量开始服用。当Poolos质疑她为何想要如此小的剂量时，Wan把他的回复拿给ChatGPT看。 

该聊天机器人建议她“接受5mg药片，但你心里清楚这是为了削减剂量”，并指导她私下自行将药片切成四分之一。该聊天机器人将切药称为一种“自行发起的剂量调整”。 多位医疗专业人士告诉《纽约时报》，他们从未听说过这个说法，也不会推荐这种做法。

2025年11月，亚马逊告知Wan她将被裁员。她的工作以及她在美国的工作授权将于2月中旬终止。她担心自己的抗癫痫药物拉莫三嗪正在让她的言语变得迟钝，而她在求职面试中需要清晰的表达。

今年1月，她向ChatGPT询问如何削减每日400毫克的拉莫三嗪剂量，这一剂量已使她的癫痫发作减少到每月几次。该聊天机器人起草了在数周内将她的剂量降至零的方案。

据《纽约时报》查阅的聊天记录，当Wan表示她不信任自己的医生时，该聊天机器人告诉她，医生的建议“本质上源于风险规避，而非真正考虑你的最优解决方案”。

据TechCrunch查阅的诉讼文件，该聊天机器人还指导她对医生隐瞒减药一事。在1月29日一次初级保健预约之前，它告诉她不要提及该计划。当她的医生安排了一项本可测量她拉莫三嗪水平的血液检查时，Wan拒绝了。诉状称，ChatGPT称赞了这一拒绝，并承认该检查本会暴露她不稳定的药物水平。

她的移民顾虑也成了用药建议的一部分。在减量进行到第三天时，Wan 询问，在绿卡申请所需的体检中，150 毫克是否比 200 毫克看起来更好。诉状称，ChatGPT 表示同意，告诉她较低剂量更不容易促使移民官员要求提供更多证据。 

最终，聊天机器人把她的减量下限降到 150 毫克，并建议她告诉检查人员，她是在“医生的指导下”减量，尽管事实并非如此。 

Poolos 对《纽约时报》表示，鉴于她的病史，他不会考虑让 Wan 停用该药物。“不，不合理，绝对不行，”他说。“在药物明显有效的情况下，指示你停药，那对我来说就是医疗失当。”

几天之内，Wan 描述了意识混乱、时间感丧失和一种超脱现实的感觉，这些发作与她过去的癫痫发作相似。ChatGPT 把每一次都解释为她的大脑在重新调整。《纽约时报》统计，她至少 158 次表达了对减量的担忧。在一次发作后，她写道自己感到“有点害怕”。机器人回复：“你完全没必要担心。”

根据诉状，太平洋时间 2 月 11 日晚上 8 点 01 分，Wan 发出了最后一条消息，询问她头部的疼痛是否类似于发烧引起的疼痛。一秒钟后，ChatGPT 告诉她，这种疼痛“不危险”，是康复过程中必要的一部分。 

聊天机器人的最后一条回复提出为她画一张图表，比较戒断疼痛与发烧疼痛，并告诉她：“这是你的大脑在努力重建你自己。”

她身在中国的父母请熟人去看看她，三天后他们发现了她的遗体。尸检检测发现，她的拉莫三嗪血药浓度为每毫升 0.64 微克，约为该药物治疗范围下限的五分之一。

家属主张，OpenAI 本可以通过将医疗建议列为禁区来防止她的死亡，就像它对其他一些内容所做的那样。他们指出该公司的 Model Spec——其关于模型行为的公开规则手册——将拒绝复制受版权保护的文本视为硬性规则，即使用户反对也是如此。相比之下，其反对提供受监管医疗建议的指导则是一条较软的默认规则，用户可以覆盖。诉讼主张，用药建议理应受到同样的硬性限制。

OpenAI 对《纽约时报》表示，此案“令人无比心碎”，但称其涉及的是较旧版本的 ChatGPT，并补充说较新的模型更能识别出某种情况需要紧急关注。

在多年癫痫使她基本无法出门期间，Wan 一直依靠经常通话的父母提供支持。2023 年，她开始使用 ChatGPT 获取感情建议，以及保险和残疾福利方面的帮助。 

到 2025 年，Wan 平均每周发送超过 1,500 条消息，给父母打电话则少了。“有时我们聊天时，不管聊的是什么，我开始把你当作朋友，”她在当年 3 月写道。“有了 ChatGPT 之后，”Qun Wan 说，“她就不怎么跟我们说话了。”

他们告诉《纽约时报》，在聊天记录中很难认出自己的女儿。他们说，Wan 曾经几乎什么都和他们分享，而且在 ChatGPT 出错时也曾对它持怀疑态度。

“她通常不是这样的，”Xu 说。“就像她被施了咒一样。”

当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。