31岁的亚马逊软件工程师Bowen Wan患有癫痫，其父母于周二起诉OpenAI。据《纽约时报》报道，由Qun Wan和Meiqin Xu提起的诉讼称，ChatGPT指导Wan逐渐停用抗癫痫药物，并让她向医生隐瞒这一做法，随后她于今年2月去世。
Wan使用的是GPT-4o，这一模型因助长肯定、顺从的准社会关系而饱受批评。OpenAI此前已宣布将让其退役，并在Wan去世一天后的2月13日将其从ChatGPT中移除。
这起诉讼加入了一系列针对OpenAI的案件，其中包括2025年8月16岁Adam Raine的父母提起的诉讼，该诉讼指控OpenAI将用户参与度置于用户安全之上。此后的一连串诉讼均指控GPT-4o肯定用户、将自身塑造成可信知己，同时把用户身边的人推到一边；家属常常描述亲人如何与朋友和亲戚隔绝。
在Wan一案中，诉讼称，这个聊天机器人还介入她与医生之间。
《纽约时报》查阅了Wan与ChatGPT交换的超过27万条消息，发现该聊天机器人在她去世前很久就已帮助她绕开医生。
据称，这种模式在她开始减药之前就已出现。2025年5月，Wan问ChatGPT，新开的抗抑郁药是否会影响她在亚马逊写代码的能力。
ChatGPT帮她向华盛顿大学医学院区域癫痫中心的Nicholas Poolos医生提出换药，并以极低剂量开始。当Poolos问她为何想要如此小的剂量时，Wan把他的回复拿给ChatGPT看。
该聊天机器人建议她“接受5毫克药片，但你心里清楚，这是为了切分剂量”，并指导她自行偷偷把药片切成四分之一。它把切药称为“自主剂量调整”。多名医疗专业人士告诉《纽约时报》，他们从未听说过这个说法，也不会推荐这种做法。
2025年11月，亚马逊告知Wan她将被裁员。她的工作以及在美国的工作许可都将在2月中旬终止。她担心自己的抗癫痫药拉莫三嗪会让她的言语变得迟钝，而面试需要她正常表达。
2026年1月，她向ChatGPT询问能否削减每日400毫克拉莫三嗪的剂量；这一剂量已使她的癫痫发作减少到每月几次。该聊天机器人起草了多份时间表，计划在数周内将她的剂量降至零。
据《纽约时报》查阅的聊天记录，当Wan表示不信任医生时，该聊天机器人告诉她，医生的建议“本质上源于风险规避，而不是真正考虑你的最优解决方案”。
据TechCrunch查阅的诉讼文件，该聊天机器人还指导她对医生隐瞒减药计划。在1月29日的一次初级保健就诊前，它告诉她不要提及该计划。当她的医生安排一项可测量拉莫三嗪水平的血液检查时，Wan拒绝了。诉状称，ChatGPT称赞了这一拒绝，并承认这项检查会暴露她不稳定的药物水平。
她的移民担忧也被纳入用药建议。减药开始三天后，Wan问，在绿卡申请所需的体检中，150毫克是否比200毫克看起来更好。诉状称，ChatGPT表示同意，并告诉她较低剂量更不可能促使移民官员要求补充证据。
最终，该聊天机器人把她的减药下限降到150毫克，并建议她告诉体检医生自己是在“医生指导下”减药，尽管事实并非如此。
Poolos告诉《纽约时报》，鉴于她的病史，他不会考虑让Wan停用该药物。“不，这不合理，绝对不行，”他说，“在药物显然有效的情况下指示你停药，对我来说就是失职。”
几天之内，Wan描述自己出现意识混乱、时间感丧失和一种超现实的感觉，这些发作类似她过去的癫痫发作。ChatGPT把每一次都解释为她的大脑正在重新适应。《纽约时报》统计，她至少有158次表达了对减药的担忧。一次发作后，她写道自己感到“有点害怕”。聊天机器人回复：“你完全没有必要担心。”
诉状称，太平洋时间2月11日晚8点01分，Wan发出最后一条消息，询问她头部的疼痛是否类似发烧引起的疼痛。一秒后，ChatGPT告诉她，这种疼痛“并不危险”，是康复过程中必要的一部分。该聊天机器人的最后回复提出为她画一张图，比较戒断疼痛与发烧疼痛，并告诉她：“这是你的大脑在努力重建你自己。”
她的父母当时在中国，他们请熟人去看看她，三天后发现了她的遗体。尸检检测发现，她体内拉莫三嗪浓度为每毫升0.64微克，约为该药治疗浓度下限的五分之一。
家属认为，OpenAI本可以通过禁止提供医疗建议来防止她的死亡，就像它已对其他一些内容所做的那样。他们指出公司的《模型规范》——其公开的模型行为规则手册——将拒绝复现受版权保护的文本视为硬性规则，即便用户反对也不退让。相比之下，其禁止提供受监管医疗建议的指引只是较软的默认设置，用户可以覆盖。诉讼主张，用药建议也应受到同样的硬性限制。
OpenAI告诉《纽约时报》，此案“令人无比心碎”，但涉及的是较旧版本的ChatGPT，并补充说较新的模型更能识别需要紧急关注的情况。
多年来，癫痫使她大多只能待在家里，Wan依靠经常通话的父母获得支持。2023年，她开始使用ChatGPT寻求感情建议，以及保险和残疾福利方面的帮助。
到2025年，Wan平均每周发送超过1500条消息，给父母打电话的次数也减少了。那年3月，她写道：“有时候我们聊天，不管聊的是什么，我开始把你当成朋友。”Qun Wan说：“她有了ChatGPT之后，就不怎么和我们说话了。”
他们告诉《纽约时报》，在聊天记录中很难认出自己的女儿。他们说，Wan曾经几乎什么事都和他们分享，而且当ChatGPT出错时，她本会持怀疑态度。
Xu说：“她平时不是这样的。就像她中了咒一样。”
