馬斯克（Elon Musk）旗下公司xAI已對明尼蘇達州禁止「裸體化」技術的法律提起訴訟。該公司認為這項全美首創的法規過於寬泛，侵犯了受憲法保護的言論自由，可能為各州監管人工智能的界限提供一次憲法層面的考驗。
- 法律背景：明尼蘇達州於今年五月簽署法案，成為全美首個試圖取締利用人工智能創建真實人物虛假裸體圖像技術的州份。
- 訴訟時機：xAI在該法律生效前數日（週一）向聯邦法院提起訴訟。
- xAI主張：該公司不反對禁止未經同意分發AI裸照，但認為現行法律涵蓋了受憲法保護的圖像，且未提供「安全港」條款。
- 法律罰則：該法規對每次違規處以高達50萬美元的罰款。
- 州長回應：明尼蘇達州總檢察長表示，利用AI生成他人裸照令人震驚，剝奪了受害者的尊嚴。
xAI：法律定義過寬 缺乏安全港
在長達38頁的訴訟文件中，xAI指出，儘管其服務條款禁止用戶將Grok模型用於非法、有害或侵犯他人隱私的活動，但明尼蘇達州的法律「遠遠超出了目標」。訴訟稱，該法沒有為善意防止用戶創建此類圖像的公司提供「安全港」條款，並且其涵蓋範圍甚至包括了經當事人同意、甚至是本人創建的圖像。
xAI進一步辯稱，該法律對「私密部位」的定義過於寬泛，可能涵蓋了通常在公共場合展示的身體部位，從而限制了大量受憲法保護的圖像和影片創作。
州檢察長：保護民眾免受傷害
明尼蘇達州總檢察長埃里森（Keith Ellison）在聲明中表示，雖然尚未收到訴訟文件，但他強調：「使用人工智能違背他人意願生成裸體圖像是令人震驚的。」他認為，人工智能裸體化剝奪了目標對象的尊嚴，並可能在情感、個人和職業層面造成巨大傷害，這類行為不應在政策辯論之列。
過去，各州關於選舉深度偽造的法律在法庭上結果不一。例如，加州的相關法律因第一修正案言論保護而被封鎖，但明尼蘇達州的另一項法律則在2025年的一場法庭挑戰中倖存下來。
科技公司的自律措施
xAI在訴訟中強調，公司已採取措施應對濫用問題。其服務條款禁止將Grok用於生成裸體化或性露骨圖像，並會對違規者採取暫停或終止帳戶等措施。今年早些時候，xAI已表明對「任何形式的兒童性剝削、未經同意的裸體和不受歡迎的性內容」採取「零容忍」態度。
在全球反對聲浪下，Grok於一月表示，將對內容進行地理封鎖，並已實施技術措施，防止用戶編輯真實人物穿著暴露服裝（如比基尼、內衣等）的圖像。
來源：衛報
封面來源：美聯社