北加州內華達縣（Nevada County）地檢官威爾遜（Jesse Wilson）承認，一名檢察官運用人工智能（AI）撰寫刑事法庭文件，引用了不存在的法律案例與先例。
據《沙加緬度蜂報》報道，威爾遜稱，檢方在針對被告特納（Kalen Turner）與毒品有關五項重罪及兩項輕罪案的動議中，包含了在AI領域稱為「幻覺」的虛假信息，即內容由受AI軟件杜撰而成。他稱：「一名檢察官近期用AI準備訴訟文件，導致引用內容失實。錯誤發現後，該文件已立即撤回。」威爾遜同時指出，其下屬在另兩宗案件中提交的法律摘要亦存在不準確的法律引用，但源於人為疏失而非AI錯誤。
事件再次凸顯人AI日益普及的潛藏風險。在法律等領域，AI生成的法律摘要若出現錯誤，可能影響被告的自由權利。在醫療領域，AI對醫療必要性的分析曾導致某些病患的治療被拒絕。今年四月，南加州一名16歲少年在與AI聊天機器人討論自殺念頭後自盡，促使加州頒布新法以保護脆弱的AI用戶。
威爾遜說：「儘管AI可作為有用的研究工具，但該技術仍在不斷演進且存在局限性，包括可能產生『幻覺』引用。」
一名被告援引上述三宗內華達縣案件，於上月底向加州最高法院提交上訴。被告柯勒（Kyle Kjoller）面臨多項槍械相關指控，其律師團隊指出，每宗案件中的錯誤都帶有AI幻覺的典型特徵，要求展開調查並對地檢署實施制裁。
加州最高法院尚未表明是否受理柯勒的上訴，州上訴法院已於10月駁回其上訴。
非牟利組織「公民權利團」的律師指出：「內華達縣地檢署在最近數周至少三宗刑事案件中，提交了援引虛構（法律）權威的法律陳述書」。該組織與內華達縣公辯律師共同為柯勒辯護，柯勒最終被定罪。本報訊
