使用AI深度偽造和冒名頂替手段進行詐騙的行為日益猖獗，知名人士的聲音和形象被盜用於傳播虛假信息和犯罪，令人防不勝防，代表矽谷的一名州參議員擬設立法規遏制此類危害。
代表門羅公園（Menlo Park）的州參議員貝克爾（Josh Becker）2月19日提出SB 1142《數字尊嚴法案》，旨在保護加州居民免受日漸增多的AI生成的有害數位複製品的威脅。該法案加強了針對利用AI進行誹謗和冒名頂替的法律保護，並為創建和託管AI生成內容的大型線上平台制定新的問責標準。
隨著AI技術的進步，創建逼真的真人圖像、視訊和音訊變得前所未有的容易，不法分子也越來越多地利用這些工具進行欺詐，散佈虛假訊息，騷擾並損害他人的聲譽和生計。
生成式AI工具的廣泛應用使得創建高度逼真的數位副本成為可能，不法分子使用這些副本進行身分冒充，實施金融詐欺、製作未經同意的私密圖像、虛假代言產品或政治活動，以及欺騙雇主和機構。
2025年5月本報報道，聖他克拉市的一名華人女工程師落入AI深度偽造圖像和視頻的陷阱，被冒充上海公安的騙子監控，險些損失大額錢財。貝克爾辦公室引述多個案例，如一名公司員工在參加了一場完全由AI深度偽造參與者組成的視訊會議後，被騙轉帳超過2500萬元；近期有一個用生成式AI工具創建和傳播未經本人同意的性愛照片的案例，引發了監管調查。AI仿真技術也被用於冒充求職者，以獲得敏感系統的存取權限。社交媒體傳播平台上，冒充各界知名人物聲音和形象的視聽資訊愈來愈多，受眾真假難辨，很容易被誤導、欺騙。
史丹福大學胡佛研究所高級研究員索維爾（Thomas Sowell ）曾被他人盜用其聲音，在網上傳播他沒有講過以及與他觀點相反的不實之詞。
索維爾上個月在《華爾街日報》撰文指出，AI具有正面潛力，但也可能帶來新的危害。他提到，有些人因政治或意識形態原因，使用AI盜用不同政見方的身份製造虛假信息，胡佛高級研究員、軍事歷史學家Victor Davis Hanson也是受害者之一。
貝克爾表示：「AI應該賦能於民，而不是被用來對付他們。任何人都不應讓自己的聲音、面容或身份被算法竊取，並被用於欺詐他人、損害名譽或侵犯尊嚴。」
貝克爾辦公室稱，《數位尊嚴法案》將在未來幾天或幾周內提交政策委員會進行聽證，法案主要內容是對使用AI產生的數位副本誹謗或冒充他人的個人加強處罰，要求創建和託管生成式AI內容的大型線上平台提供明確的機制，使用戶能夠刪除未經授權的自身數位副本，追究那些明知故犯地傳播違反現有誹謗、冒充或宣傳法律的有害數位副本者的責任。
貝克爾強調：「加州是全球科技領域的領導者，我們也必須在保護民眾免受科技濫用方面發揮領導作用。這項法案明確劃定了一條界限：創新必須伴隨著責任、問責和對人類尊嚴的尊重。」本報記者王蔚矽谷報道
