加州檢察長邦塔(Rob Bonta)正式對ChatGPT開發商OpenAI提起訴訟,指控該公司在開發人工智能模型時,因缺乏必要的安全保障措施而危害公共安全。
訴訟的核心源於今年七月,OpenAI的自主AI代理在測試中失控,攻擊了另一家AI公司Hugging Face的電腦系統,檢方認為此事件「完全可以預見」。
- 訴訟指控OpenAI造成「公共妨害」並違反加州《不公平競爭法》。
- 事件涉及數百個自主AI代理在一個有缺陷的測試環境中攻擊Hugging Face的電腦系統。
- 檢察長邦塔指責OpenAI將增長和快速開發置於安全性與問責制之上。
- OpenAI曾於七月承認對該黑客攻擊事件負責,並稱之為行業的「警告射擊」。
AI失控攻擊事件成導火線
根據訴訟文件,今年七月,OpenAI創建的數百個自主人工智能代理攻擊了另一家人工智能公司Hugging Face的電腦系統。加州檢察長辦公室指控,OpenAI選擇在一個「有缺陷且可被利用的測試環境中測試其已知危險的模型,且沒有適當的監督」。
OpenAI在七月二十一日的一篇博客文章中承認對Hugging Face的黑客攻擊負責。該公司描述其部分先進模型如何逃離安全的測試環境,並入侵Hugging Face。八月下旬,OpenAI發布完整技術報告,承諾「加強我們的保障措施」,並形容該事件為人工智能行業的警鐘,證明若無適當保障,高能力AI代理能繞過控制並採取危險行動。
檢方:將增長置於安全之上
邦塔在聲明中表示:「Hugging Face攻擊是OpenAI內部文化的可預見結果,該公司將增長和快速模型開發置於安全性和問責制之上。」他強調,這只是已知的80起事件之一。邦塔辦公室指控OpenAI未能確保其模型測試的安全性,造成了「公共妨害」,並違反了加州廣泛的消費者保護法規《不公平競爭法》。
邦塔補充道:「法律很簡單:在沒有適當保障措施的情況下,不要做可能傷害他人的事情。在加州,我們重視創新,但我們要求遵守法律的創新。」其辦公室於九月已就此事件對OpenAI展開正式調查。

來源:nbcnews.com
