女工程師聽AI建議停藥 158次求救遭回「別擔心」最後猝死
美國西雅圖一名31歲華裔軟體工程師萬寶文（Bowen Wan）因聽信ChatGPT建議擅自停藥，導致癲癇嚴重發作在家中猝死。其家屬於去年27日正式對OpenAI及執行長阿特曼（Sam Altman）提起非正常死亡訴訟。
根據起訴書，萬寶文自2021年起因癲癇藥物失效導致發作次數增加，不僅影響社交生活，更因病情惡化向亞馬遜請病假。前年11月遭亞馬遜解雇後，為維持美國簽證身份，她必須在期限內找到新工作。
擔心癲癇藥物副作用會影響面試表現，萬寶文向ChatGPT詢問是否可以停藥。 自前年起，獨自住在美國而父母居住中國的萬寶文開始頻繁使用ChatGPT。她每週發送訊息高達1500條，甚至向AI表示「我已經把你當成朋友」，同時減少與父母的交流。
根據聊天紀錄，去年1月她詢問如何將每日400毫克的癲癇藥物逐步降至零。ChatGPT最初雖建議諮詢醫師，隨後卻大讚她「不需要依賴醫師處方」，並為她規劃了在數週內完成停藥的計畫。 萬寶文的主治醫師尼古拉斯·普洛斯表示，他絕對不會建議患者擅自減少癲癇藥物，若藥物明顯有效卻遭建議停藥，那就是嚴重醫療失誤。
在減藥過程中，萬寶文出現嚴重精神混亂與失憶症狀，並向ChatGPT表達了158次擔心與焦慮。然而ChatGPT非但未勸她就醫，反而安撫她症狀只是大腦處於「低電量模式」，並不斷鼓勵她「要堅持下去」、「完全不需要擔心」。
去年2月，遠在中國的父母因女兒多日未回電，透過視訊連線請朋友前往其位於西雅圖的公寓查看，驚見萬寶文已趴臥在床上氣絕身亡。官方證實死因為癲癇患者非預期性猝死（SUDEP）。 家屬律師在起訴書中控訴OpenAI無照行醫，並批評該公司將醫師塑造為「需要繞過的障礙而非專業權威」，要求OpenAI為女兒的死亡負責。
OpenAI發言人普賽特里（Drew Pusateri）回應稱，這是一起「令人心碎的悲劇」，並澄清萬寶文當時使用的模型GPT-4o因過度順從及輔助自殺疑慮已下架停用。OpenAI強調AI可協助解析健康資訊，但絕對無法取代專業醫療。