全美享譽盛名的華爾街Sullivan & Cromwell律師事務所日前正式向聯邦法官致歉。該行承認在提交給法院的一份法律文件中，充斥著大量由人工智能（AI）產生的錯誤，其中包括憑空捏造案例引用的「AI幻覺」。
《紐約時報》報道，根據該律師事務所合夥人迪特德里希（Andrew Dietderich）於4月18日致格倫法官（Martin Glenn）的信函，這些技術性錯誤出現在曼哈頓聯邦破產法院的一項近期動議中，並由對手律師事務所發現。迪特德里希在信中坦言，「我們對發生此事深表遺憾。」
律師事務所隨信提供了一份詳盡的錯誤清單，內容橫跨3頁，總計約36項疏漏。其中多項錯誤涉及引用真實法律案件中「想像出來」的虛假段落。雖然部分文書錯誤經確認與AI無關，但核心問題仍指向生成式技術的誤用。
Sullivan & Cromwell是全美歷史最悠久、最具聲望的法律機構之一，目前正代表特朗普總統處理多宗上訴案，包括2024年涉及封口費案的刑事定罪。現任紐約南區聯邦檢察官克萊頓（Jay Clayton）曾是該行的資深合夥人。
此次道歉揭開了法律界在運用AI技術時面臨的又一尷尬局面。面對海量研究任務，律師往往受困於AI工具的便利性，卻忽視了其產生法律虛假訊息的傾向。美國律師協會已多次指示，在向AI模型提問或檢索結果時必須審慎。迪特德里希承認，相關動議在準備過程中「未遵守」事務所關於使用AI的內部政策。
發生AI幻覺的案件背景涉及柬埔寨太子集團（Prince Group），該集團創辦人陳志（Chen Zhi）去年在布碌崙聯邦法院被起訴，指控其經營全球性詐騙業務。相關錯誤最早由代表太子集團的Boies Schiller Flexner律師事務所在公開文件中指出。在察覺異狀後，Sullivan & Cromwell對該案所有文件進行了全面審查，確認AI幻覺僅存在於該單一文件中。迪特德里希強調，事務所要求律師在使用AI工具前必須接受培訓，其核心教義為「不信任任何內容，核實一切細節」。
本報訊
