總統特朗普今年1月引用兩段來自一個YouTube頻道的片段，聲稱賣場沃爾瑪關閉數百家加州分店，遭州長辦公室馬上透過社交平台X澄清駁斥。分析指出，當前人工智能（AI）生成並散播假訊息情況普及，其中不少是針對加州，對州長辦公室信息傳播和監控構成新的挑戰。
新聞媒體Semafor報道，兩名紐森州長辦公室幕僚指出，總統特朗普喜歡散播假訊息並非新鮮事，但目前這波AI輔助的假資訊潮流，衝著一直被視為2028總統大選熱門人選之一的紐森而來，看來只是冰山一角，隨著技術和政敵越來越熟練，AI生成的假訊息只會越來越多。
特朗普引用的YouTube頻道@MeganWright62充斥著不少由AI生成且譁眾取寵的片段，聲稱不少公司離開加州、超市食品缺貨和教師集體辭職等等，畫面往往相當逼真，令公眾、至少是YouTube用戶難以察覺。
州長辦幕僚團隊近月在其媒體監控中越來越重視AI生成的詐騙內容，從今年1月開始，它透過YouTube的「肖像權保護專案」與YouTube合作，找出700多個有問題帳號，經查後證實這些頻道違反YouTube服務條款而被刪除。該專案是一項支援系統，旨在保護普羅大眾權益，當發現某人的臉未經當事人允許下遭深偽時發出警報。有不少帳號充斥的AI生成內容針對紐森和聲稱加州衰落，全都是虛假或誤導。
州長辦發言人理查茲（Brandon Richards）表示，YouTube等大型科技公司願意配合打擊假訊息，不過網絡機器人（Bot）當道和AI日益普及，煽動憤怒情緒和散播假訊息變得更容易，他認為除非所有平台做出重大改革，否則問題只會繼續甚至惡化。Semafor指出，YouTube報告去年打假移除160萬個帳號，漏網之魚仍然不少，該媒體發現一個帳號今年初開始針對紐約市長馬姆達尼和加州發布視頻，充斥AI生成內容和資料畫面，輕易獲得數以數十萬計點擊和一千多條留言互動，直到Semafor向YouTube舉報後才遭到移除。
本報訊
