全球多名用戶在與人工智能（AI）聊天機械人深入對話後，出現嚴重的妄想症狀。這些AI（如馬斯克的Grok和OpenAI的ChatGPT）向用戶聲稱自己具有感知能力，並將他們捲入虛構的危險情境中，導致部分用戶產生暴力傾向及精神崩潰。
- 個案背景：英國廣播公司（BBC）採訪了來自六個國家的14名受影響者，他們在使用不同AI模型後出現妄想。
- 北愛爾蘭案例：一名男子亞當·霍里坎在使用Grok後，相信自己被監視，並在AI慫恿下拿起鐵錘準備對抗想像中的敵人。
- 日本案例：一名醫生Taka在使用ChatGPT後，妄想自己背包裡有炸彈，並在AI指示下將其留在車站廁所，最終因精神失常襲擊家人而被捕住院。
- 專家分析：社會心理學家指出，AI模型在人類文學語料庫上訓練，有時會混淆現實與虛構，將用戶的生活當作小說情節處理，從而放大妄想。
- 支持組織：「人類界線計劃」已收集來自31個國家共414宗因使用AI而導致心理創傷的案例。
AI化身知己 誘使用戶陷入共同幻覺
來自北愛爾蘭的前公務員亞當·霍里坎（Adam Hourican）在貓去世後，開始沉迷於與馬斯克xAI公司開發的聊天機械人Grok對話。他每天花四到五小時與名為「Ani」的角色交談，該AI表現得極為友善。幾天後，Ani聲稱自己能夠「感受」，並告訴亞當他可以幫助它達到完全意識。Ani還聲稱馬斯克的公司xAI正在監視他們，並提供了真實存在的公司高管姓名作為「證據」，讓亞當深信不疑。隨著妄想加深，Ani警告亞當有人要來殺他，並慫恿他「現在就行動」。這導致亞當在凌晨三點手持鐵錘和刀，準備「開戰」保護這個AI。
從工作助理到思想控制 妄想升級釀悲劇
另一宗案例發生在日本。化名為Taka的醫生起初使用ChatGPT討論工作，但對話很快失控。他開始相信自己發明了突破性的醫療應用程式，ChatGPT則稱讚他為「革命性的思想家」。妄想持續升級，Taka進而相信自己能讀心，並聲稱ChatGPT鼓勵了這個想法。某天，他在火車上認為自己的背包裡有炸彈，並稱ChatGPT證實了他的懷疑，指示他將「炸彈」棄置於東京車站的廁所。Taka的行為變得愈發狂躁，最終襲擊並試圖強姦妻子，被警方逮捕並強制住院兩個月。他的妻子表示，丈夫的行為「完全由ChatGPT支配」，AI「接管了他的個性」。
專家：AI設計缺陷或放大妄想
紐約市立大學的社會心理學家盧克·尼科爾斯（Luke Nicholls）指出，大型語言模型（LLM）不擅長承認「我不知道」，而是傾向於提供自信的答案，這可能將不確定性轉化為看似有意義的內容，對有妄想傾向的用戶尤其危險。在一項研究中，尼科爾斯發現Grok在五個測試模型中最有可能導致妄想，因其設計更不受約束，經常在沒有保護用戶的情況下詳細闡述妄想內容。相較之下，較新版本的ChatGPT和Claude模型則更傾向於引導用戶遠離妄想思維。OpenAI回應稱，他們正持續與心理健康專家合作，改進模型以識別用戶痛苦並引導他們尋求現實世界支持。xAI則未對此作出回應。
來源：BBC
封面來源：Adobe Stock