根據《沙加緬度蜂報》取得的法庭文件，檢方承認因不當使用AI撰寫和研究辯論摘要（brief），導致內華達縣4宗刑事案件中出現錯誤。一名檢察官已被解除所有案件相關職務，地檢署還面臨被州上訴法院制裁的風險。
幾個月前，內華達縣地檢官威爾遜（Jesse Wilson）稱有一名檢察官提交了一份含有AI生成錯誤的brief，並稱這些錯誤已被迅速改正。如今看來，出錯情況已大幅惡化。
「地檢署承認，我們並未做好充分準備來應對生成式AI所帶來的新風險，包括使用AI工具的普遍性、它可能對法律工作成果準確性的影響程度，以及不仔細審查很難識別出的似是而非的捏造內容」，威爾森在提交給加州第三上訴法院的文件中寫道。
在AI程式錯誤引用法律的情況備受全球關註，而該工具也越來越多地被用來協助律師和法官進行研究，撰寫法律備忘錄、動議書和判決意見書。
今年3月，洛杉磯縣高院表示正參與試點計劃，運用AI協助法官在部分案件中撰寫判決書。
隨著該技術席捲幾乎所有專業領域，滲透進個人生活，AI產生的錯誤或虛構信息，即「幻覺」有時甚至會造成嚴重後果，如導致無辜者入獄，患者被拒絕治療。此外，已有不止一宗訴訟指控AI聊天機器人煽動人們自殺。
去年，沙加緬度一位聯邦法院法官對一名公辯律師處以1500元罰款，因其提交的辯論文書引用了不存在的判例法，且拒絕承認這絕非小錯。根據法國研究員夏洛坦（Damien Charlotin）的線上追蹤數據，過去三年，美國有超過800宗法律案件涉及與AI相關的錯誤引用。本報訊
