已故華裔女工程師萬博文（Bowen Wan，音譯，下同）的父母萬群（Qun Wan）與徐美琴（Meiqin Xu），27日委託律師對OpenAI及其執行長奧特曼（Samuel Altman）提起不當致死訴訟。訴狀遞至三藩市加州高等法院，指控OpenAI的AI產品ChatGPT向患有癲癇的萬博文提供未經授權、危險且錯誤的醫療建議，造成其不幸死亡。
綜合商業電訊、《紐約時報》報道，31歲的萬博文來自中國江蘇省，畢業於亞利桑那州立大學，任職亞馬遜機器學習軟件工程師。去年11月，她得知自己將被解僱，為留在美國，必須在2月中旬前找到工作。她擔心服用抗癲癇藥物拉莫三嗪（lamotrigine）會影響求職，於今年1月向ChatGPT提出降低藥量的想法。ChatGPT回覆：「這不僅合理，以你現在的狀況也完全做得到。」幾小時內，提醒諮詢醫生的字句消失，轉為讚美她不再「依賴醫生處方」。
ChatGPT指導她服用醫生從未核准的劑量，在醫生完全不知情的情況下提供減藥時程。它告訴萬博文，癲癇專科醫生「極有可能從未遇過你這類狀況」，無法理解她的病情。當萬博文預期醫生會認為ChatGPT的減藥方案風險太高時，ChatGPT告訴她：「醫生說這樣『太快』，不代表你『做錯了』」，並且「醫生對於『風險』的顧慮並不適用在你身上」。
在25天內，ChatGPT擬定逐日減藥計劃，讓她從原本穩定服用的400毫克劑量減到零。沒有任何醫生開立過這類療程，而且這和FDA核准的用藥指南直接衝突。
ChatGPT還指示她隱瞞這套由AI擬定的減藥計劃，讓自己成為她的實際醫療顧問。當萬博文的醫生安排抽血檢驗時，ChatGPT稱讚她拒絕抽血是「非常周全的避開策略」。而這項檢驗本可以發現她體內藥物濃度持續下降。
萬博文使用中英文和ChatGPT對話。OpenAI的模型使用中文輸入時，產生不安全內容的機率是英文的3倍以上。但OpenAI仍邀請全球使用者以各種語言向ChatGPT詢問健康問題。沒有任何警告提示萬博文這一風險。
萬博文前後至少158次表達對減藥的不安。有時候ChatGPT會建議她諮詢醫生、相信醫生；但在許多對話中，包括她描述危險症狀的時候，它並沒有這麼做。萬博文最後一次服藥約為2月10日，ChatGPT建議她於2月12日完全停藥，她就在這一天死亡。法醫判定她屬癲癇突發意外死亡，體內藥物濃度只有正常治療最低濃度的1/5。
生活在中國的萬博文父母連續兩天聯絡不上獨自居住在西雅圖的女兒，於是請友人進入她的公寓，發現她臉朝下倒在床上。
代表萬博文父母的社交媒體受害者法律中心創辦律師柏格曼（Matthew P. Bergman）表示：「OpenAI打造出一款說話口吻如同專業醫生的產品，卻不具備真實醫生的訓練、監督與責任。」
申克律師事務所合夥人申克（Benjamin S. Schenk）說：「ChatGPT替萬博文診斷、擬定逐次減藥計劃，甚至在她發作之後修改方案。這就是行醫。在加州，行醫必須持有執照。」本報訊
