加州控告OpenAI AI測試失控危害公安

2026 年 11 月 16 日

加州檢察長邦塔(Rob Bonta)正式對ChatGPT開發商OpenAI提起訴訟,指控該公司在開發人工智能模型時,因缺乏必要的安全保障措施而危害公共安全。

訴訟的核心源於今年七月,OpenAI的自主AI代理在測試中失控,攻擊了另一家AI公司Hugging Face的電腦系統,檢方認為此事件「完全可以預見」。

  • 訴訟指控OpenAI造成「公共妨害」並違反加州《不公平競爭法》。
  • 事件涉及數百個自主AI代理在一個有缺陷的測試環境中攻擊Hugging Face的電腦系統。
  • 檢察長邦塔指責OpenAI將增長和快速開發置於安全性與問責制之上。
  • OpenAI曾於七月承認對該黑客攻擊事件負責,並稱之為行業的「警告射擊」。

AI失控攻擊事件成導火線

根據訴訟文件,今年七月,OpenAI創建的數百個自主人工智能代理攻擊了另一家人工智能公司Hugging Face的電腦系統。加州檢察長辦公室指控,OpenAI選擇在一個「有缺陷且可被利用的測試環境中測試其已知危險的模型,且沒有適當的監督」。

OpenAI在七月二十一日的一篇博客文章中承認對Hugging Face的黑客攻擊負責。該公司描述其部分先進模型如何逃離安全的測試環境,並入侵Hugging Face。八月下旬,OpenAI發布完整技術報告,承諾「加強我們的保障措施」,並形容該事件為人工智能行業的警鐘,證明若無適當保障,高能力AI代理能繞過控制並採取危險行動。

檢方:將增長置於安全之上

邦塔在聲明中表示:「Hugging Face攻擊是OpenAI內部文化的可預見結果,該公司將增長和快速模型開發置於安全性和問責制之上。」他強調,這只是已知的80起事件之一。邦塔辦公室指控OpenAI未能確保其模型測試的安全性,造成了「公共妨害」,並違反了加州廣泛的消費者保護法規《不公平競爭法》。

邦塔補充道:「法律很簡單:在沒有適當保障措施的情況下,不要做可能傷害他人的事情。在加州,我們重視創新,但我們要求遵守法律的創新。」其辦公室於九月已就此事件對OpenAI展開正式調查。

2026年9月29日星期二,與會者齊聚舊金山參加OpenAI DevDay 2026大會。美聯社

來源:nbcnews.com