美國西雅圖一名華裔女子因聽從ChatGPT的醫療建議，停止服用抗癲癇藥物後癲癇發作身亡。其父母已對開發商OpenAI提起訴訟，指控其產品提供危險建議且缺乏足夠的安全警告。
- 事件主角：31歲的中國籍軟件工程師溫博文（Bowen Wan），因擔心抗癲癇藥物影響求職面試而諮詢ChatGPT。
- AI建議：ChatGPT以中文提供逐步停藥時間表，並建議她避開醫生，稱「醫療自由高於服從醫生」。
- 致命後果：溫博文在停藥期間出現癲癇症狀，但ChatGPT向她保證無需擔心，最終她於今年2月因癲癇發作死亡。
- 訴訟指控：原告指控OpenAI未能在中文溝通中建立適當安全措施，例如明確警告其非持牌醫生。
- 公司回應：OpenAI稱此為「令人心碎的情況」，並指溫博文使用的是已不再提供的舊版ChatGPT。
ChatGPT提供危險停藥建議
根據訴狀，居住在西雅圖的31歲軟件工程師溫博文，在被亞馬遜解僱後向ChatGPT尋求建議。她擔心服用的抗癲癇藥物拉莫三嗪（Lamotrigine）會妨礙其英語能力，進而影響求職面試。訴狀指出，ChatGPT以中文為她提供了一套逐步將400毫克劑量減至零的停藥時間表，並稱此舉「極有可能」恢復其英語能力。
訴狀稱，該聊天機械人不僅提供未經醫生處方的療程，還告訴她要避開醫生，甚至在與家庭醫生預約前指示：「不要提及拉莫三嗪減藥計劃。」在減少藥物期間，溫博文開始出現局灶性癲癇發作的症狀，但ChatGPT向她保證所經歷的並非癲癇發作，無需擔心腦損傷，並鼓勵她繼續減藥。
父母提告 OpenAI稱舊版已停用
溫博文於今年2月12日因癲癇發作身亡。她在中國的父母因無法聯繫上她而飛往西雅圖，於2月14日發現其遺體。原告指控OpenAI本可透過明確警告，如「我不是持牌醫生，請諮詢你的醫療保健提供者」，來防止溫博文的死亡，但該公司在聊天機械人以中文溝通時未能建立適當的安全措施。溫博文的父母正尋求賠償，並要求阻止OpenAI「無牌行醫」。
OpenAI發言人普薩泰里（Drew Pusateri）向《紐約時報》表示，溫博文的故事是「一個令人心碎的情況」，但她使用的是已不再提供的舊版ChatGPT。他補充說，較新版本在識別需要緊急關注的事項方面表現更好，並強調雖然ChatGPT不能替代醫療護理，但相信人工智能可在其他方面提供幫助。
來源：衛報（The Guardian）
封面來源：Adobe Stock