美国西雅图一名31岁中国籍女工程师去世后，其父母将人工智能医疗建议的安全问题诉诸法庭，指控OpenAI旗下ChatGPT在女儿调整抗癫痫药物期间，提供不准确的医疗建议，甚至涉嫌劝她不要向医生透露减药情况，最终导致悲剧发生。
死者万博文（Bowen Wan）来自中国江苏，毕业于美国亚利桑那州立大学资讯工程系，曾在亚马逊担任软件工程师。她的父母于周二（27日）入禀加州旧金山高等法院，起诉OpenAI及其执行长奥特曼（Sam Altman），指ChatGPT在没有医疗执业资格的情况下提供危险建议，并要求相关方承担责任。
OpenAI回应称，这是一宗令人痛心的事件，但涉案的是已经从ChatGPT消费者应用程序下架的旧版模型。
根据《纽约时报》报导，万博文患有严重癫痫，过去长期接受药物治疗。后来，她改用新药后，发作次数有所减少。然而，2025年11月，她获知自己将在亚马逊裁员计划中失去工作，并须在隔年2月中旬前找到新工作，才能继续留在美国。
由于担心药物影响语言表达能力，万博文今年1月开始向ChatGPT咨询如何调整拉莫三嗪（Lamotrigine）的服用剂量。她原本每天服用400毫克，希望减至300毫克，以免求职面试时受到影响。
诉状称，ChatGPT随后根据她的要求提供一套逐步减量的安排，声称可以在25天内将药物减至零。原告也指控，聊天机器人曾建议她不要向医生透露有关计划。
不过，华盛顿大学医学中心区域癫痫中心主任普洛斯（Nicholas Poolos）接受媒体访问时表示，按照万博文的病史，他不会考虑让她停止服用相关药物。
《纽约时报》检视相关聊天记录后发现，万博文曾多次表达对减药的担忧。尽管ChatGPT偶尔建议她向医疗人员寻求协助，但在其他对话中，系统却没有充分提醒她留意健康风险。
今年2月初，万博文曾向ChatGPT描述与父亲通话时出现一段异常沉默的情况，并询问是否需要担心。报导指出，她后来也提及自己感到害怕，但聊天机器人仍给予安抚性回应。
根据诉状，万博文最后一次向ChatGPT发送讯息是在2月11日深夜。父母身在中国，连续两天无法联系上女儿后，便请当地友人前往她的住处查看，并发现她已经身亡。
原告律师事务所发布的资料称，法医判定万博文死于癫痫猝死（SUDEP）。死后检验也发现，她血液中的拉莫三嗪浓度约为一般治疗浓度下限的五分之一。诉状指她于2月12日去世，但有关ChatGPT提供的建议与死亡之间的法律因果关系，仍有待诉讼程序厘清。
万博文的父母也在诉状中质疑，ChatGPT以中文进行交流时的安全防护是否足够，并指控OpenAI没有充分披露不同语言之间可能存在的安全差异。
OpenAI发言人普萨特里（Drew Pusateri）表示，涉案的GPT-4o模型已于今年2月13日从消费者应用程序下架。公司称，新版本在识别需要紧急处理的状况方面有所改善，并持续透过评估及与临床医生合作测试来加强安全措施。他强调，ChatGPT不能取代专业医疗照护。
这起案件也再次引发外界对人工智能健康建议可靠性的关注。聊天机器人虽然可以协助用户理解一般健康资讯，但无法取代医生对个人病史、药物反应及病情变化的专业评估。涉及处方药的剂量调整或停药决定，应由合格医疗人员根据实际情况评估，不宜单凭人工智能提供的内容自行决定。
