加州一名律師因在州上訴法院提交的上訴狀中充斥由人工智能工具ChatGPT生成的假引文，被裁罰1萬美元。法院指出，該律師在開庭陳述的23條判例引文中，有21條是虛構，並強調各州與聯邦法院近期已多次遇到律師引用不存在的法律依據之情況。
根據加州的非營利新聞組織CalMatters報道，判決書直言：「為此我們公開此判決以示警告。」並明確指出：「簡言之，任何提交給法院的狀紙、訴狀、動議或其他文件，都不應包含任何引文——無論其來自生成式AI或其他來源——而未經提出文件之律師本人親自閱讀並核實。」
這份裁罰出自10天前加州第二區上訴法院。案件凸顯為何加州法律主管機關正急於規範司法體系內的AI使用。加州司法委員會兩週前發布指引，要求各級法官與法院職員在12月15日前，要麼全面禁止生成式AI，要麼制定使用政策；同時，加州律師公會亦應加州最高法院上月之請求，考慮在職業道德準則中強化對各類AI工具的規範。
遭罰的洛杉磯地區律師Amir Mostafavi向法院承認，他在2023年7月提交上訴狀前，未逐字閱讀AI模型產出的文字。三名法官組成的合議庭因此以提起濫訴、違反法庭規則、引用假案以及浪費法院與納稅人資源為由對其處罰。Mostafavi其後向CalMatters表示，他先自行撰寫上訴，再用ChatGPT「優化」，並稱不知該工具會加入判例引文或捏造內容。
Mostafavi認為，要求律師完全停止使用AI並不現實，正如線上資料庫早已取代傳統法學圖書館一樣；在AI仍可能「幻覺」出假資訊之前，使用者應格外謹慎。他說：「在此期間，我們會出現一些受害者、一些損失、一些殘局。我希望這個例子能幫助他人不要掉進坑裡。我正在付出代價。」
據在巴黎商學院教授「AI與法律」課程的Damien Charlotin統計，這是至今加州州法院對律師因AI捏造開出的最昂貴罰單之一。他長期追蹤澳洲、加拿大、美國與英國律師引用假案的案例。
5月間，加州一宗備受矚目案件中，聯邦地方法院法官還曾命兩家律所向辯方與法院合計支付3萬1100美元，補償因「偽造的AI生成研究」所產生的費用。該名法官表示自己一度被誤導，差點在司法文件中引用假資料，並強調「需要強力嚇阻，確保律師不會屈服於這條輕鬆但危險的捷徑。」▍本報訊 ▍
加州法律主管機關急於規範司法體系內的AI使用。美聯社
