MIT和哈佛的科學家發現 人工智能可通過X射線識別種族

本報記者溫友平報道

醫生無法僅通過查看X光片來判斷某人是黑人、亞洲人還是白人。但據包括麻省理工學院(MIT)和哈佛醫學院的研究人員在內的國際科學家團隊的一篇令人驚訝的新論文,計算機可做到。研究發現,受過訓練以讀取X射線和CT掃描的人工智能程序可90%的準確率預測一個人的種族。但進行這項研究的科學家表示,他們不知道計算機是如何計算出來的。對此,《波士頓環球報》進行報道。
麻省理工學院電氣工程和計算機科學助理教授、該論文的合著者Marzyeh Ghassemi說,當我的研究生向我展示這篇論文中的一些結果時,我實際上認為這一定是一個錯誤。該論文周三(11日)發表在醫學雜誌《柳葉刀數字健康》上。
報道稱,在人工智能軟件越來越多地用於幫助醫生做出診斷決定時候,這項研究提出一個令人不安前景,即基於人工智能的診斷系統可能會無意中產生帶有種族偏見的結果。例如人工智能(可以使用X射線)可自動為所有黑人患者推薦特定的治療方案,無論它是否最適合特定的人。同時,病人的人類醫生不會知道人工智能的診斷是基於種族數據的。
當科學家們注意到用於檢查胸部X光片的人工智能程序更有可能錯過黑人患者的疾病跡象時,這項研究工作就誕生了。另一位合著者、哈佛醫學院副教授Leo Anthony Celi說,我們問自己,如果計算機不能分辨一個人的種族,那怎麽可能?
據報道,該研究團隊包括來自美國、加拿大、澳洲和台灣的科學家,他們首先使用X射線和CT掃描的標準數據集訓練一個人工智能系統,其中每張圖像都標有人的種族。這些圖像來自身體的不同部位,包括胸部、手部和脊柱。計算機檢查的診斷圖像不包含明顯的種族標記,如膚色或頭發質地。
一旦軟件顯示大量帶有種族標記的圖像,它就會顯示不同的未標記圖像集。該程序能夠以驚人的準確率識別圖像中的人的種族,通常遠高於90%。即使對來自相同大小、年齡或性別的人的圖像進行分析,人工智能也能準確地區分黑人和白人患者。
但是怎麽做?Ghassemi和同事們仍感困惑,但她懷疑這與黑色素有關,黑色素是決定膚色的色素。也許X射線和CT掃描儀檢測到深色皮膚中較高的黑色素含量,並以人類用戶以前從未注意到的某種方式將這些信息嵌入數字圖像中。這需要更多的研究才能確定。
報道指出,測試結果能否證明不同種族之間的先天差異?漢普郡學院生物人類學教授、《種族主義不是種族》一書的合著者艾倫•古德曼(Alan Goodman)不這麽認為。古德曼對論文的結論表示懷疑,並表示他懷疑其他研究人員能否重現這些結果。但即使他們這樣做了,他認為這一切都與地理有關,而不是種族。
古德曼說,遺傳學家沒有發現人類基因組存在重大種族差異的證據。但他們確實根據祖先居住的地方發現人與人之間重大差異。
無論如何,Celi說醫生應不願意使用可能會自動產生有偏見結果的人工智能診斷工具。

波士頓