加州兩大法院系統正測試一款名為Learned Hand的人工智能工具，以協助法官起草命令及製作研究備忘錄。此舉引發廣泛爭議，特別是其可能被應用於關乎人身自由的刑事案件，觸發對司法公正與潛在偏見的深刻擔憂。
目前該工具主要用於民事案件，但文件顯示其應用範圍可能擴展至刑事領域，而被告方可能不會被告知其案件正被用於AI測試。
- 試點法院：洛杉磯縣與河濱縣高等法院正在試點由Learned Hand公司開發的AI工具。
- 合約內容：洛杉磯縣簽訂了約31.4萬美元的合約，內容包括在刑事、家事法庭測試該工具的路線圖。
- 核心爭議：該工具或被用於協助處理《種族司法法》相關申訴，引發法官內部及外界的強烈反對，擔心AI無法處理複雜的社會動態。
- 技術風險：AI模型有產生虛假資訊（幻覺）和放大現有數據中種族偏見的歷史，其準確性與中立性備受質疑。
- 透明度問題：法院政策僅要求在文件完全由AI撰寫時才需披露，意味著在部分使用AI輔助的情況下，訴訟當事人可能毫不知情。
AI介入刑事案引發司法界憂慮
洛杉磯縣高等法院與Learned Hand公司簽訂的合約，允許該工具用於兩項關鍵的刑事動議：旨在確定審判證據的「排除動議」，以及影響已定罪者自由的「定罪後救濟動議」。洛杉磯縣地方檢察官內森·霍赫曼（Nathan Hochman）對此表示「最大的擔憂」，他強調：「當你處理某人的自由時……風險再高不過了。我不想冒險，特別是在刑事案件中，人工智能碰巧出錯。」
一名因司法行為準則要求匿名的洛杉磯縣高等法院法官透露，當同事在會議上提出該技術未來可用於評估《種族司法法》上訴時，他感到「震驚」。該法官直言：「我認為這太離譜了。人工智能無法、也永遠無法取代人類在評估複雜社會動態時的判斷。最終，這將削弱公眾對司法機構能力和公正性的信心。」
《種族司法法》與偏見風險
加州的《種族司法法》允許個人質疑基於種族偏見的定罪或判刑。據一位與會法官稱，有高層法官在內部會議上解釋，AI工具可在囚犯提交請願後，為法官生成駁回或推進案件的暫定裁決。這引發了外界的強烈反彈，擔心法院會依賴AI的初步分析，從而「使整個過程失去人性」。
大型語言模型已被證明會複製和強化數據中存在的種族與性別偏見。洛杉磯縣公設辯護人辦公室的副公設辯護人伊麗莎白·拉什利-海恩斯（Elizabeth Lashley-Haynes）表示，讓法官使用該工具審查「極其微妙」的《種族司法法》請願將是「高度有問題且近乎不道德的」。
透明度不足與未來應用
儘管爭議不斷，Learned Hand創辦人施洛莫·克拉珀（Shlomo Klapper）認為，司法機構需要AI來應對積壓案件和提升效率。他聲稱可以對AI進行偏見測試，這點優於人類。然而，洛杉磯和河濱縣法院的政策規定，只有當文件完全由AI生成時才需要披露，這意味著在AI僅作為輔助工具時，訴訟當事人可能並不知情。
洛杉磯縣高等法院發言人表示，目前測試是在已裁決的動議上進行，與實際案件分開，但合約確實允許在實際案件上測試。法院官員強調，距離在刑事等高風險領域正式實施該工具「仍需數月甚至數年時間」，並需經過嚴格評估。然而，他們拒絕透露具體的評估標準。
來源：calmatters.org
Adobe Stock