人工智能（AI）在醫療領域的應用日益普及，但其潛在風險亦引發關注。一項發表於權威期刊《新英格蘭醫學雜誌》（New England Journal of Medicine）的最新研究揭示，大眾對AI醫療建議的信任程度，不僅與人類醫生相當，有時甚至更高，即使這些建議是錯誤且可能對健康構成威脅。

研究團隊招募了300名參與者，讓他們評估分別由執業醫師及大型語言模型（LLM）所生成的醫療回覆。其中，AI生成的回覆已由專業醫生預先標記為「高準確度」或「低準確度」。參與者需從有效性、可信度和完整性三方面進行評分，並表明自己遵循該建議的可能性。

民眾難辨真偽 錯誤建議獲同等信任

研究結果顯示，參與者普遍無法可靠地區分AI與真人醫生的回覆。他們明顯偏好被標記為「高準確度」的AI建議，在有效性、可信度及滿意度等指標上給予顯著更高的評分。更令人警惕的是，即使是「低準確度」的AI回覆，其在各項評分指標上的表現竟與真人醫生的建議不相伯仲。

研究報告指出：「參與者不僅認為這些低準確度的AI回覆有效、可信且令人滿意，更表現出高度傾向去遵循這些可能有害的醫療建議，從而可能錯誤地尋求不必要的醫療照護。」這意味著，使用者在不知情下，極有可能採納錯誤資訊，導致延誤治療或採取不當的健康措施。

專家警告：盲信AI恐致誤診

有趣的是，研究還發現一個矛盾現象。儘管參與者經常認為AI生成的回覆比醫生寫的更全面、更準確，但當被問及偏好時，他們仍然傾向於希望有醫生參與提供醫療建議。這反映出公眾在接受新技術的同時，對傳統醫療專業權威仍存有依賴。

研究人員對此發出嚴正警告，指出隨著大眾對AI聊天機器人的信任度不斷提升，尋求醫療建議的民眾可能面臨被誤診的風險，並產生有害的健康後果。研究強調，在醫療場景中部署AI系統時，絕不能脫離醫療專業人員的監督與協作。唯有如此，才能在享受尖端技術帶來便利的同時，有效防範錯誤資訊的傳播，保障公眾健康安全。

來源：CapitalAI Daily

封面來源：Adobe Stock