科技富豪馬斯克（Elon Musk）旗下人工智能（AI）公司xAI於27日入稟聯邦法院，挑戰明尼蘇達州即將生效的、針對「去衣化」（nudification）的技術禁令，此案預料將成為各州規管 AI 工具合憲性的指標案例。
根據美聯社報道，明州禁止AI「去衣化」技術的法律將於8月1日生效，是全美首項針對提供AI「去衣化」技術的網站及應用程式營運商的立法，禁止利用AI將真實人物製作成裸露的虛假影像。xAI在訴訟中稱，並不反對禁止未經當事人同意散布AI裸露影像的立法目的，但認為此項法律規管範圍過廣 ，超越保障受害人的需要，甚至限制受美國憲法保障的言論及影像創作的自由。
訴狀指出，明州州法沒有為已盡力防止用戶濫用平台的企業提供「安全港」（safe harbor）保障，即使公司已採取合理措施，仍可能因個別用戶的行為面臨每宗最高50萬元的罰款。此外，法律亦可能涵蓋經當事人同意，甚至由當事人自行製作的影像，並批評法律對「私密部位」（intimate part）定義過於寬泛，涵蓋日常公開可見的身體部位。
而明州總檢察長埃利森（Keith Ellison）在聲明中稱，其辦公室尚未收到訴狀，不過強調利用AI在未經同意下製作他人裸露影像令人震驚，嚴重損害受害人尊嚴，並可能對其情緒、個人生活及職業發展造成重大傷害。
美國各州近年就AI深度偽造（deepfake）制定的法律屢受司法挑戰，例如加州相關法律曾因涉及《第一修正案》的言論自由保障而被法院叫停；至於xAI早前挑戰明州另一項涉及選舉深偽內容的法律，法院則未支持其主張。
xAI表示，其聊天機械人及圖像生成工具Grok禁止用戶製作侵犯私隱或未經同意的裸露影像，違規者可被停用帳戶，涉及兒童性剝削內容亦會舉報。公司又稱，已實施的技術措施限制生成露骨影像，並配合不同地區法律規定。本報訊