佛州一名牧師於22日入稟加州三藩市高等法院，控告人工智能（AI）公司OpenAI及執行長奧爾特曼（Sam Altman），指其聊天機器人ChatGPT提供「極度危險」的醫療建議，令他延誤治療，最終因嚴重肺栓塞而命危。原告要求賠償，並要求法院下令暫停ChatGPT Health服務，直至獨立評估證實其安全，同時要求加強防護機制，禁止聊天機械人提供診斷及治療建議。
據《紐約時報》報道，訴狀指出，牧師溫特斯（Scott Winters）於2024年起因頭暈等症狀多次向ChatGPT-4o求助。該系統起初曾建議他尋求專業醫療協助，但其後不再作出提醒，反而表示症狀「並不危險」，鼓勵他相信「上帝不會把人體設計成不斷衰敗」，甚至勸他不要理會親友勸告就醫，留在家中調整神經系統，並提供診斷、藥物及治療方案。
訴狀稱，溫特斯病情持續惡化，因頭暈幾乎無法站立，長時間坐在躺椅上，ChatGPT仍淡化其症狀，甚至鼓勵他繼續休息。2025年7月13日，溫特斯因腹股溝疼痛再次查詢，ChatGPT稱很可能只是小問題，數小時後他因大規模肺栓塞被送入深切治療部。醫生認為，他早前的頭暈或由多次小型肺栓塞引起，而長時間久坐亦可能促成肺部血栓。其後，溫特斯需接受長期身心復康。
OpenAI的發言人表示，服務條款已列明ChatGPT並非用於醫療診斷或治療，但公司重視提升健康資訊的安全性，並稱新一代模型較舊版本更能辨識風險、表達不確定性及並建議用戶尋求專業醫療協助。
報道指出，這宗案件據信是首宗指控聊天機械人醫療建議直接導致用戶受害的訴訟。近月亦有其他案件指控ChatGPT非法提供醫療建議。有研究顯示，現有通用聊天機械人在直接醫療照護方面仍未達安全標準，即使是專為健康問題設計的版本，亦可能漏判緊急情況或未能穩定啟動安全機制。醫療AI專家認為，新一代模型雖已有所改善，但未知風險仍然存在，應用時仍須保持審慎。本報訊
