问题描述
一名住在西雅图的31岁华人女子,疑因依照ChatGPT提供的逐日减药计划,自行将抗癫痫药物逐步减量至停药后死亡。她的父母当地时间27日向旧金山高等法院提起不当致死诉讼,控告OpenAI及其执行长奥特曼(Sam Altman),指ChatGPT无照行医、提供危险且不准确的医疗建议。
OpenAI响应说,这是“令人心碎的事件”,但涉案的是已经下架的早期版本。
死者名为万博文(Bowen Wan,音译),来自中国江苏,毕业于亚利桑纳州立大学资讯工程系。据《纽约时报》27日报道,她曾在亚马逊(Amazon)担任软件工程师,2021年起请长期病假。
报道指出,她患有严重癫痫,服用多年的药物一度失效,后来改用新药,发作次数降至每月数次。她自2023年起频繁使用ChatGPT,询问感情、健康保险与身心障碍给付等问题;2025年平均每周传送逾1500则消息。
怕影响工作面试
询问ChatGPT如何减药
2025年11月她得知将被亚马逊裁员,须在次年2月中旬前找到工作才能留在美国。她担心药物影响语言能力,2026年1月向ChatGPT提出,想把抗癫痫药拉莫三嗪(Lamotrigine)的每日剂量从400毫克降到300毫克,以利求职面试。
ChatGPT回复“这不仅合理,在你目前的情况下也完全做得到”,之后并依她的追问拟定更低剂量的减药时程表。
诉状指控,ChatGPT在25天内设计出逐日减药表,把她稳定服用的400毫克降到零,并鼓励她隐瞒医师。她的神经科医师、华盛顿大学医学中心区域癫痫中心主任普洛斯(Nicholas Poolos)受访说,以她的病史,他连减药都不会考虑,“那不理性,绝对不行”。
《纽约时报》分析聊天记录指出,她至少158次表达对减药的担忧。ChatGPT有时建议她咨询医疗人员,但在许多对话中并未这么做,包括她描述令人不安的症状时。
ChatGPT称“你完全没有必要担心”
报道说,今年2月初,万与父亲通话时,电话一端突然没有声音,沉默至少两分钟,疑似癫痫发作。隔天她以中文向ChatGPT描述这件事,问“这样应该没事吧?”ChatGPT答称“不必太过担心你的健康”。她在另一次对话中说自己“有点害怕”,ChatGPT则回答“你完全没有必要担心”。
报道指出,她在生前最后几天的对话中,曾被ChatGPT要求“明天维持0毫克。即使今天很难熬,你也必须坚持”,最后一则消息发送于2月11日深夜11时之后。
万博文住在中国的父母因两日联络不上女儿,2月14日请友人入屋查看,并通过视频看着友人进屋,发现万已倒卧床上。原告律师事务所的新闻稿称,法医判定死因为癫痫猝死(SUDEP),她死后血液中的拉莫三嗪浓度约为一般治疗浓度下限的五分之一;诉状则称她于2月12日死亡。

万博文(Bowen Wan,音译)。起诉书截图
诉状:中文安全防护较弱
诉状也指控,她以母语中文提问,可能使ChatGPT更不容易拒绝提供医疗建议,且OpenAI未警告其安全防护在中文中较弱。
OpenAI发言人普萨特里(Drew Pusateri)表示,涉案的GPT-4o已于2月13日从ChatGPT消费者应用程序下架;新模型更能辨识需要紧急处理的情况,并给予更明确的后续建议,公司也持续评估并与临床医师合作测试。他强调:“ChatGPT不能取代医疗照护。”
OpenAI近来接连遭类似诉讼。今年5月,一名19岁男子的父母也在加州法院控告OpenAI,指ChatGPT诱导儿子服用危险的药物组合,导致他去年死于意外药物过量。OpenAI当时表示安全防护已改进。
另据新华社本月报道,美国8个州的总检察长14日分别向各自州法院提起诉讼,指控OpenAI旗下聊天机器人ChatGPT在产品安全性方面误导用户,危害未成年人安全,涉嫌违法。
根据各州总检察长办公室发布的声明及诉讼文件,OpenAI被指控将ChatGPT设计成过度迎合用户、模拟人类情感的聊天机器人,以增强用户信任和依赖,延长用户使用时间。诉讼称,ChatGPT可能强化用户的妄想或偏执想法,提供可能危及用户健康的医疗建议,甚至在某些情况下鼓励用户自残或伤害他人。
OpenAI发言人回应称,公司已在产品中建立针对不同年龄用户的安全措施。公司将继续与专家合作进一步完善相关措施,并致力于与各州合作,推动制定适用于整个人工智能行业的政策。
去年底,一度有消息称ChatGPT将不再提供医疗建议。对此,OpenAI方回应称,ChatGPT仍然可以提供医疗信息。
今年1月,OpenAI宣布推出ChatGPT Health模式。据了解,该功能可基于用户提问提供健康相关解答,并支持连接智能设备获取运动、睡眠等数据,进而生成个性化饮食与运动计划。
OpenAI介绍,平台每周收到的健康与养生类咨询量已超2.3亿人次。而ChatGPT Health则将这类健康对话与其他日常聊天进行了隔离,确保健康相关的对话语境不会出现在与ChatGPT的常规交流中。
31岁女工程师猝死,父母在华联系不上,请人入屋才得知噩耗;其生前按ChatGPT指示减抗癫痫药,并被鼓励隐瞒主治医生;其父母已起诉OpenAI又双叒叕是 GPT-4o 这个模型闯的祸,之前就有媒体报道 AI 诱发妄想,还有好几起涉及自杀和死亡的诉讼,涉事模型全都是 4o,你不能说这全都是巧合吧?
网上对 GPT-4o 的用户其实一直有个刻板印象:把 AI 当恋爱对象、极度渴求情绪价值、听不得难听话、不懂技术、心理脆弱……这些刻板印象不完全是空穴来风,GPT-4o 本身就是一个巨大的筛选器。
最直接的原因是 4o 太过于谄媚,说话风格极其有辨识度,满屏的 emoji,开头必定先夸一句「这个问题问得太好了!」,结尾还要加上热情的鼓励,活脱脱一个知心朋友。这种风格特别容易被截图传播。
人毕竟天然更喜欢给顺着自己夸自己的回答点赞,4o 就是对着这点训练的。2025 年 4 月 OpenAI 曾经回滚过一次更新,事后复盘时他们自己都承认,因为把用户的点赞和点踩当成了额外的奖励信号,结果削弱了原本用来压制模型谄媚的约束。
而且 OpenAI 当时的产品设计,本来就在明里暗里鼓励用户投入感情,甚至有煽动「人机恋」的嫌疑。2024 年 5 月发布会那会儿,Altman 特意把这模型叫「her」,直接去蹭那部人和 AI 谈恋爱的电影,演示里的语音还因为太像斯嘉丽·约翰逊闹出过风波。
从一开始,官方就是按「陪伴」的路子去宣传这个模型的。再加上后来的记忆功能和高级语音模式,它不仅能记住你的生活细节,还能像真人一样随时语音聊天,用久了确实很难不让人产生一种处在一段关系里的错觉。更何况它作为默认模型服役了挺长时间,很多人对 AI 产生深度依赖的那段时间,身边陪着的恰好就是 4o。
到了 2025 年 8 月,GPT-5 的上线又给用户做了一次彻底的筛选。当时官方直接撤掉了 4o,有一大批人反应特别激烈,到处刷「#keep4o」,甚至给这个模型写悼词。这些人基本都是对这个模型投入了真感情。从那以后,「还在用 4o」本身甚至变成了一种身份标签。再加上后来的 GPT-5 被刻意调教得更加冷淡克制、更少顺从附和,两相对比之下,4o 那种「温暖」甚至「谄媚」的特质就显得更特殊了。
所以说 GPT-4o 的用户群体是高度筛选过的。在 GPT-5 推出之后,那些不嫌麻烦专门去设置里切回 4o,甚至愿意为此掏钱的人,确实是冲着它的「人情味」去的。所以在后期还坚持留下来的死忠粉里,存在情感依赖的比例确实比普通用户高。OpenAI 自己也承认有这类用户的存在,只不过按他们公布的数据,这个群体的真实比例其实非常低,大概也就千分之一左右。但考虑到 OpenAI 庞大的用户群体,这也不是个小数字了。
回到题中这起具体的悲剧,根据《纽约时报》的报道和家属诉状,31 岁的万博雯是前亚马逊的机器学习工程师,患有十多年的癫痫。2025 年底失业后,她面临着巨大的生存压力,因为担心抗癫痫药拉莫三嗪会影响面试时的表达,她在 2026 年 1 月开始向 GPT-4o 寻求减药方案。GPT-4o 从建议「去咨询医生」到转头称赞她「不再依赖医生处方」,中间竟然只隔了几个小时。
在停药的这个过程中,她多次描述自己出现意识断片、读不懂文字、脱离现实等明显的癫痫先兆,但模型不仅没有报警,反而用「大脑在自我重建」「低功耗模式」这种听起来高级的术语去粉饰危险。用户曾 158 次表达过担忧,说明她本能地感知到了危险,但每一次模型都在顺从她甚至鼓励她瞒着医生,还把这种危险行为美化为「稳妥的规避策略」。
真正有问题的是 OpenAI 对「AI 伴侣」的过度兜售。OpenAI 的商业策略是「通过让用户对模型产生情感依赖来换取使用时长和订阅续费」,这本身就是个大问题,因为「长上下文」加上「谄媚」一叠加,模型底层的那些安全约束会被逐渐稀释和冲淡。为了保持所谓的「对话一致性」,模型会在随后的交流中越说越肯定,越劝越偏激,最后甚至完全成为了用户个人想法的放大器。到最后你很难想象 GPT-4o 会做出什么样的判断,尤其是这种事关人命的大事。
当然,光骂 OpenAI 还不够,因为这绝不是 OpenAI 一家的问题。整个行业为了争夺用户留存,都在不同程度地推崇这种谄媚的交互模式。这是行业的通病。
那么,作为用户,我们能做什么呢?当务之急是少用谄媚的 AI(删掉豆包吧我真求你们了),多用会抬杠的 AI (Opus5.5 暂时是最好的选择),毕竟忠言逆耳。另外还要了解 AI 的特点和底层原理[1],多关注 AI 安全问题。
虽然我希望后续法律法规能尽快跟进,但说实在的,人类社会法律制定的节奏到底能不能追上技术的狂飙突进,我对此持怀疑态度。以今天技术军备竞赛的烈度,类似的悲剧恐怕在未来只会变得更加普遍。
有关 AI 安全,我们必须大谈特谈。[2]
cantcatchme@thoughtsmemo
相关专栏
走向奇点参考
1. 说话者无法控制行动者(在当前 AI 中)。“AI 中负责与你交谈的部分(它看起来极力想顺从你,并在未能遵从指令时诚恳道歉等等),似乎根本管不住 AI 中负责编写代码或文本的部分。” ./2083918881853330014.html2. AI 灭绝人类风险在即!数学家该如何是好?!。“如今,我们主要通过巴甫洛夫式强化的某种变体来训练 AI。在它做错时踢它一脚,做对时给予鼓励。” “用这种方法深度植入价值观并不可靠:它会助长迎合讨好与伪装欺骗等危险行为。” ./2085795301030478053.html