英國國民保健署（NHS）的監管機構警告，能夠聆聽並轉錄醫病會診內容的人工智能（AI）記錄技術，可能因錯誤記錄藥物和疾病名稱而對病人構成安全風險。監管機構指出，除非病人自行發現，否則這些錯誤可能被永久記錄在醫療檔案中，影響後續護理。
- 一名女士因AI系統錯誤記錄其患有可致多發性硬化症的「脫髓鞘病變」，而備受驚嚇，事實上其掃描結果為「無脫髓鞘病變」。
- 在另一案例中，AI記錄系統將醫生處方的藥物與另一種名稱相似的藥物混淆。
- 一封由AI生成的摘要信件遺漏了醫生建議病人尋求偏頭痛藥物重複處方的指示。
- 倫敦一名全科醫生指出，AI系統曾出現「幻覺」，在記錄中提及她從未與病人討論過的藥物「百憂解」（Prozac）。
病人發現錯誤 AI準確性受質疑
英格蘭健康監察組織（Healthwatch England）強調了多宗AI記錄系統出錯的個案，以突顯這項NHS正快速推廣的技術對病人安全的潛在威脅。在一宗個案中，一名本身是NHS醫護人員的女士，因AI系統在其核磁共振掃描結果摘要中錯誤記載她患有「脫髓鞘病變」（demyelination）而經歷了極大的創傷。直到她提出質疑，醫院才將記錄更正為正確的「無脫髓鞘病變」（null demyelination）。
該組織表示，已聽聞「多個病人注意到這些錯誤而醫護人員卻沒有發現的故事」。在其他事件中，AI系統混淆了藥物名稱，或遺漏了重要的處方建議，這些錯誤同樣是由病人而非醫生發現。病人協會行政總裁鮑爾（Rachel Power）指出，對這項技術的信任取決於良好的溝通和與病人的夥伴關係，而這兩者目前都有所欠缺。
監管缺失與潛在法律風險
健康監察組織對藥品和保健產品監管局（MHRA）決定不將AI記錄系統歸類為「醫療器械」表示擔憂，這意味著將缺乏全英格蘭範圍的監督來確保其使用安全。目前，英格蘭的全科醫生和醫院醫生已在使用27種不同的人工智能記錄系統。部長們已被警告，NHS和醫生可能因AI犯下的錯誤而被起訴。
AI的準確性問題近期也因其他事件成為焦點，例如有病人投訴AI接待員無法理解他們濃重的約克郡口音。倫敦全科醫生達伍德（Shier Ziser Dawood）警告，醫生需要審查所有AI記錄以檢查錯誤，這意味著AI工具尚未證明能節省時間，對家庭醫生而言可能是「一把雙刃劍」。
效率與風險並存
儘管政府期望AI記錄系統能將醫護人員從行政工作中解放出來，但現實是醫生可能因需要核對AI筆記而無法節省時間。瑞典烏普薩拉大學專家布利斯（Charlotte Blease）指出，研究發現當會診涉及多人、病人病史複雜或母語非英語時，AI出錯的可能性更高。
然而，她也補充說：「事實是，沒有人工智能，醫生也可以而且確實會犯錯。而且錯誤率很可能更糟。」她去年對1,003名英國全科醫生進行的調查顯示，超過一半的人認為他們的AI記錄比自己製作的記錄更準確。
來源：衛報
封面來源：Adobe Stock