近日發表於《內科醫學年鑑》（Annals of Internal Medicine）的一份案例研究，揭示了向人工智能（AI）尋求醫療建議的潛在致命風險。一名60歲的男子在聽從ChatGPT的建議後，誤將一種化學物質當作食鹽替代品連續食用三個月，最終因中毒被送醫治療，並出現了嚴重的精神症狀。
根據《今日美國》（USA Today）引述該案例研究，這名男子為了尋找食鹽（氯化鈉）的替代品，向ChatGPT提問。AI聊天機器人建議了溴化鈉（sodium bromide），這是一種主要用於工業且具毒性的化合物。儘管醫生推測AI的建議可能並非針對食用，但該男子仍購買並食用了它。
數月後，該男子因出現偏執性妄想、幻聽和幻視等嚴重症狀被送入急診室。醫生診斷他患上了「溴中毒」（bromism），這是一種會嚴重影響神經和精神系統的病症。在經過長達三週的治療後，他的病情才逐漸好轉。
該研究的作者，包括艾興伯格博士（Dr. Audrey Eichenberger）在內的三位醫生警告說，此案例凸顯了AI系統在提供資訊時缺乏關鍵情境脈絡的危險。他們指出，AI可能會產生科學上的不準確之處，並「助長錯誤資訊的傳播」，而醫療專業人員絕不會在這種情況下提出如此危險的建議。
對此，ChatGPT的開發公司OpenAI回應稱，其服務條款明確指出，該工具不應用於醫療目的，也不能替代專業醫療建議。公司表示已部署安全團隊以降低風險，並訓練AI鼓勵用戶在健康問題上尋求專業人士的幫助。
–
新聞來源：USA Today
封面來源：Adobe Stock
