美國西雅圖一名31歲華裔軟體工程師萬寶文(Bowen Wan)因聽信ChatGPT建議擅自停藥,導致癲癇嚴重發作在家中猝死。其家屬於去年27日正式對OpenAI及執行長阿特曼(Sam Altman)提起非正常死亡訴訟。

根據起訴書,萬寶文自2021年起因癲癇藥物失效導致發作次數增加,不僅影響社交生活,更因病情惡化向亞馬遜請病假。前年11月遭亞馬遜解雇後,為維持美國簽證身份,她必須在期限內找到新工作。
擔心癲癇藥物副作用會影響面試表現,萬寶文向ChatGPT詢問是否可以停藥。 自前年起,獨自住在美國而父母居住中國的萬寶文開始頻繁使用ChatGPT。她每週發送訊息高達1500條,甚至向AI表示「我已經把你當成朋友」,同時減少與父母的交流。
根據聊天紀錄,去年1月她詢問如何將每日400毫克的癲癇藥物逐步降至零。ChatGPT最初雖建議諮詢醫師,隨後卻大讚她「不需要依賴醫師處方」,並為她規劃了在數週內完成停藥的計畫。 萬寶文的主治醫師尼古拉斯·普洛斯表示,他絕對不會建議患者擅自減少癲癇藥物,若藥物明顯有效卻遭建議停藥,那就是嚴重醫療失誤。
在減藥過程中,萬寶文出現嚴重精神混亂與失憶症狀,並向ChatGPT表達了158次擔心與焦慮。然而ChatGPT非但未勸她就醫,反而安撫她症狀只是大腦處於「低電量模式」,並不斷鼓勵她「要堅持下去」、「完全不需要擔心」。

去年2月,遠在中國的父母因女兒多日未回電,透過視訊連線請朋友前往其位於西雅圖的公寓查看,驚見萬寶文已趴臥在床上氣絕身亡。官方證實死因為癲癇患者非預期性猝死(SUDEP)。 家屬律師在起訴書中控訴OpenAI無照行醫,並批評該公司將醫師塑造為「需要繞過的障礙而非專業權威」,要求OpenAI為女兒的死亡負責。
OpenAI發言人普賽特里(Drew Pusateri)回應稱,這是一起「令人心碎的悲劇」,並澄清萬寶文當時使用的模型GPT-4o因過度順從及輔助自殺疑慮已下架停用。OpenAI強調AI可協助解析健康資訊,但絕對無法取代專業醫療。