隨著生成式人工智能技術門檻大幅降低，一場圍繞美國、以色列與伊朗衝突的虛假資訊浪潮正席捲社交媒體。專家向BBC查證團隊指出，網絡創作者正利用AI工具大量製造虛假戰爭影片與衛星圖像，並透過平台X（前身為推特）的營利計畫將驚人流量變現。
- 本文核心內容：
- 核心問題：生成式人工智能被用於製造關於美、以、伊衝突的虛假影片與圖像。
- 主要平台：平台X的創作者營利計畫被指為主要驅動力。
- 偽造內容：包括導彈襲擊特拉維夫、哈里發塔起火及美軍基地受損的假衛星圖。
- 專家觀點：製作逼真假影片的門檻已崩潰，形成「終極的虛假資訊企業」。
「印鈔機」：X平台營利計畫的誘惑
分析指出，平台X的營利計畫成為這波假資訊氾濫的主要推手。該計畫允許符合資格的用戶，在貼文創造大量互動後從平台獲得分潤。X產品主管透露，散播AI假影片的帳戶中，高達「99%」是為了操縱營利機制。
昆士蘭科技大學數位媒體專家格雷厄姆（Timothy Graham）估算，X平台可能為每百萬次瀏覽支付約8至12美元。他形容：「一旦加入，病毒式傳播的AI生成內容基本上就是一台印鈔機。他們建立了終極的虛假資訊企業。」
為應對此問題，X本週宣布將暫時中止發布未標註AI衝突影片的創作者參與營利計畫的資格。然而，當被問及是否跟進時，擁有Facebook與Instagram的Meta公司及TikTok均未回應。
真假難辨：AI工具連自家都騙
這波AI生成內容的逼真程度與傳播速度令人擔憂。一則顯示導彈擊中以色列特拉維夫（Tel Aviv）的假影片，在超過300則貼文中被分享數萬次。諷刺的是，當用戶試圖用X平台自家的AI聊天機器人Grok查證時，Grok在多數情況下竟錯誤地堅稱影片為真。
另一則觀看數千萬次的影片，則描繪了杜拜哈里發塔（Burj Khalifa）陷入火海的駭人景象。此外，AI生成偽造衛星圖像也成為新趨勢。一張由官方背景的《德黑蘭時報》（Tehran Times）分享的假照片，聲稱美軍位於巴林（Bahrain）的海軍基地遭受大範圍破壞。經谷歌（Google）的SynthID工具檢測，該圖像由AI生成或編輯，其細節破綻在於，與一年前的真實衛星圖相比，三輛車的位置竟絲毫不差。
生成式人工智能專家阿傑德（Henry Ajder）表示：「我們從未見過這些工具如此易得、如此簡單且如此便宜。」專家普遍認為，由互動驅動的營利模式與追求準確資訊之間存在根本矛盾，這讓社交平台在應對AI假資訊時陷入兩難，短期內難有簡單的解決方案。
來源：BBC
封面來源：Adobe Stock