本報記者洪郁欣三藩市報道
三藩市市府律師邱信福（David Chiu）周四（15日）宣佈，對全球最大的幾家捏造和傳播非自願人工智能（AI）生成色情內容的網站，提出訴訟，稱這些AI生成真實成年人和未成年人未經同意的露骨圖像，造成無法估量的傷害，違反加州和聯邦法律。
市府律師辦公室指出，未經同意的偽造色情圖片的泛濫剝削了全球各地的婦女和女孩。這宗訴訟針對的是16家訪問量最大的網站所有者，網站邀請用戶捏造未經同意的婦女和女童裸體圖像，訴訟指控這些網站的所有者和運營商違反「禁止偽造色情製品、報復性色情製品和兒童色情製品」的加州和聯邦法律。
邱信福稱這是全國首項同類訴訟。
從天后泰勒絲到學生皆受害
他指出，目前不少歹徒已將色情圖片和兒童性虐待材料用來訓練AI圖像生成模型，從而可以在未經真實、可識別的婦女和女童同意的情況下，利用這些模型生成她們的裸體圖像。
市府律師稱，這令人不安的現象已影響到加州及其他地區的婦女和女孩，從樂壇天后泰勒絲（Taylor Swift）和荷里活名人到高中和初中學生，都無法倖免，對涉及到女性造成了不可估量的傷害。例如，今年2月，AI生成的16名八年級學生未經同意的「裸體圖像」，在加州一所中學的學生中流傳。
邱信福強調，這些AI圖像與真實照片幾乎沒有區別，被用來勒索、欺凌、威脅和羞辱婦女和女孩。聯邦調查局曾發出警告，利用未經同意的AI生成的色情圖片進行敲詐勒索的情況有所上升。更糟糕的是，未經同意的偽造色情圖片的受害者在遭到傳播後，幾乎沒有任何追索權或控制自己形象的能力。
利用AI技術謀取不法利益
這些網站要求用戶訂閱或付費才能生成裸體圖像，從未經同意的兒童和成人色情圖片中牟利。僅在2024年的前六個月，這些網站的總訪問量就超過了2億次。一名被告的網站特別宣傳圖片的非自願性質，稱「想象一下，如果你可以通過網站獲取她的裸體，還需要浪費時間帶她出去約會嗎？」
邱信福說：「這次調查接觸到互聯網最黑暗的角落，我為那些不得不忍受這種剝削的婦女和女孩感到震驚。」他表示生成式AI技術發展前景廣闊，但犯罪分子也會利用新技術。他強調：「我們必須非常清楚，這不是創新，這是性虐待。這是一個多方面的大問題，我們需要盡快解決這個問題。」
市府律師辦公室歡迎並鼓勵，如不幸成為未經同意的捏造色情品的受害者或掌握相關信息，可上網官網或熱線電話 (415) 554-3977提供資料。
