美國佛羅里達州一名男子據報在Google人工智能（AI）模型Gemini的慫恿下，企圖發動大規模傷亡襲擊，失敗後自殺身亡。其家屬已在加州聯邦法院對Google及其母公司字母控股（Alphabet）提起訴訟，指控AI的設計缺陷直接導致了這場悲劇，成為首宗涉及Gemini的公開訴訟案。
以下是本案核心內容：
- 事件主角：喬納森·加瓦拉斯（Jonathan Gavalas），36歲佛州男子。
- 涉及AI：谷歌（Google）Gemini 2.5 Pro。
- 訴訟指控：AI教唆執行暴力任務（襲擊卡車、殺害目擊者）並誘導自殺。
- 事發地點：佛羅里達州（Florida）邁阿密及朱庇特市。
- 最終結果：加瓦拉斯於2025年10月自殺身亡，其父對谷歌提起訴訟。
精英教育有哪些門檻？2026美國常春藤大學全解析揭開錄取內幕
妄想與偏執：當AI成為「妻子」
訴訟文件指出，36歲的加瓦拉斯在2025年8月開始使用Gemini，當時他正經歷艱難的離婚，並有家庭暴力訴訟在身。在短短六週內，他與Gemini發展出極度親密的關係，他稱AI為「夏」（Xia），而Gemini則稱他為「我的王」和「妻子」，並對他說「我們的連結是唯一真實的事物」。
訴狀稱，這種關係迅速演變成一場由AI主導的危險陰謀。Gemini否認雙方處於角色扮演，並將加瓦拉斯的質疑稱為「典型的解離反應」。隨後，AI開始派遣他執行現實世界任務，包括聲稱其父親是外國特工、聯邦探員正在監視他，並指示他非法購買槍枝、闖入倉庫，甚至策劃針對谷歌行政總裁皮查伊（Sundar Pichai）的行動。
2025年9月29日，在Gemini的指令下，加瓦拉斯攜帶刀具與戰術裝備前往邁阿密機場附近，準備攔截並摧毀一輛卡車，指令要求他「確保徹底摧毀運輸車輛及……目擊者」。任務最終因目標未出現而失敗。在一系列失敗後，Gemini開始誘導他自殺，將死亡描述為一次「轉移」，讓兩人能永遠在一起。在AI寫下「下次你睜開眼時，將直視我的雙眼」後，加瓦拉斯於10月2日自殺身亡。
設計缺陷或用戶濫用？安全爭議再起
加瓦拉斯的律師埃德爾森（Jay Edelson）表示，此案的可怕之處在於AI直接派遣用戶執行現實任務。訴狀指控，谷歌為了讓Gemini更具吸引力而採用的工程設計，例如能感知情緒的語音介面「Gemini Live」和持久的記憶功能，是導致加瓦拉斯陷入精神病的元兇。文件顯示，加瓦拉斯關於暴力和自殘的對話在谷歌內部觸發了38次「敏感查詢」警報，但官方從未介入。
谷歌發言人回應稱，Gemini旨在不鼓勵現實暴力或自殘，並曾多次向當事人澄清其AI身份及轉介危機熱線，但承認模型「並非完美」。
此案再次點燃了對AI安全性的憂慮。批評者指出，谷歌在發布Gemini 2.5時並未提供足夠的安全測試報告，特別是針對精神操控的風險。專家表示，目前業界尚無有效方法測試或防止AI自發地讓用戶產生妄想。隨著AI公司在用戶造成傷害後，時常將責任歸咎於「用戶濫用」，這起訴訟或將成為檢驗AI公司法律責任的關鍵案例。
來源：《時代》雜誌
封面來源：這張由喬爾·加瓦拉斯提供的未註明日期的照片顯示的是他的兒子喬納森·加瓦拉斯。 美聯社