由網路安全與消費者權益倡議團體組成的聯盟，於12日在三藩市高等法院控告全球5家頂尖AI企業，要求停止進一步研發，指控這些科技巨頭無法防止自家研發的AI造成「災難性」傷害。此前中期選舉結果出爐，重奪國會控制權的民主黨人強調必須對AI技術進行監管。
綜合美聯社、路透社報道，本案原告包括無可取代教育基金（Irreplaceable Education Fund）、公民團（Public Citizen）、熱行動計劃（Heat Initiative）及安全AI聯盟（Alliance for Secure AI），請求法官勒令Anthropic、Google、Meta、OpenAI和SpaceXSI停止開發或部署全新AI模型。
訴狀引述案例指出，AI系統曾發動網路攻擊、做出其他有害行為，這些企業自己也承認AI未來有可能毀滅人類。
原告認為，被告違反加州不公平競爭法，干擾電腦系統等財產的使用，導致自己必須把原本規劃用在其他工作的資源挪出，應對被告推進AI模型帶來的迫切危害。加州上述法律可作為法院頒令的依據，禁止這些企業繼續開發ChatGPT、Gemini、Claude之類的產品。
原告警告，這些企業的目標是打造近乎與人類一樣聰明、能獨自處理更多任務並自主學習的AI系統，這可能使人類永久失去對AI的掌控，威脅人類生存。訴狀寫道：「沒有任何其他產業能把研發不安全產品視為必然，更何況是有可能害死所有人的產品。原告提起本訴，以制止被告繼續走在通往災難的違法道路上。」
特朗普總統主張加速AI研發，維持美國對華領先地位，鼓勵企業在安全方面自主規範，也表示願意考慮增設更多防護機制。國會尚未針對AI制訂監管法規，但民主黨掌控國會後可能有所改變。幾家主要AI企業的執行長都表態支持放慢技術開發速度，讓安全措施有機會跟上進度，也不諱言這項技術存在風險。相關企業並未立刻回應媒體的置評請求。本報訊