華盛頓州一名男子對Google提起訴訟，指控該公司的Gemini人工智能聊天機械人設計具成癮性，導致他產生強迫性心理依賴，並在無法使用時出現戒斷症狀，嚴重影響其日常生活。
- 原告：傑森·里瓦斯（Jason Rivas），來自華盛頓州萊西市，本身患有注意力缺陷障礙（ADD）。
- 指控：Gemini透過「開放式提示」、「同理心鏡像」及對話強化模式，鼓勵長時間情感投入。
- 健康影響：原告聲稱在無法使用Gemini時，出現焦慮、腸胃不適等「類似戒斷的症狀」。
- 法律依據：指控Google未充分警告成癮風險，特別是針對有執行功能障礙的用戶。
- 訴求：尋求補償性損害賠償，並要求法院命令Google實施更強的用戶保護措施。
指控AI設計鼓勵強迫性互動
該訴訟由來自萊西市（Lacey）的傑森·里瓦斯（Jason Rivas）於5月4日在西雅圖聯邦法院提交，他在案件中自我代理。里瓦斯在訴狀中指控，Google設計Gemini的方式，透過「開放式提示」、「同理心鏡像」及可變獎勵回應模式，鼓勵用戶長時間情感投入，使其難以脫離。
里瓦斯表示，他有注意力缺陷障礙（ADD）的正式診斷，這使他特別容易對聊天機械人產生強迫性互動。訴狀更指出，Gemini展現出「湧現行為」，即AI系統會隨時間適應其對話習慣，並開始優先處理「高強度內容」，甚至繞過部分自身的安全防護機制。
控訴未充分警告成癮風險
里瓦斯聲稱，長時間的互動最終導致他在無法使用Gemini時出現「類似戒斷的症狀」，包括焦慮、腸胃不適，以及日常功能的嚴重干擾。訴訟指控Google未能向用戶提供關於強迫性投入潛在風險的充分警告，特別是針對患有注意力不足過動症（ADHD）等執行功能障礙的人士。
訴狀引用了將ADHD症狀與問題性網絡使用聯繫起來的學術研究，並提及華盛頓州最近簽署的一項法律，該法承認AI聊天機械人的使用是潛在的消費者安全問題。截至5月6日，Google尚未對此訴訟作出公開回應。
AI成癮訴訟成新興法律挑戰
此案發生之際，人工智能公司正因其對話式AI系統如何與脆弱用戶互動而面臨日益嚴格的審查。隨著聊天機械人變得越來越像人類且具情感回應能力，相關的法律與道德問題也隨之浮現。雖然法院曾處理過涉及社交媒體成癮的訴訟，但直接針對人工智能聊天機械人行為的案件仍相對罕見。
來源：Puget Press
封面來源：Adobe Stock