一名女性向英國廣播公司（BBC）控訴，在埃隆·馬斯克（Elon Musk）旗下的人工智能 Grok 被用來數碼移除其衣物後，她感到「被非人化並被簡化為一種性別刻板印象」。這宗事件凸顯了人工智能技術被濫用於製造非自願色情內容的嚴重問題，並引發了對社交媒體平台 X 監管責任的質疑。
Grok AI的濫用與受害者心聲
英國廣播公司在社交平台 X 上發現了多個實例，顯示用戶要求該聊天機械人將女性「脫衣」，使其未經同意便以比堅尼形象出現，甚至將她們置於性暗示的場景中。受害者史密斯（Samantha Smith）在 X 上分享了她的照片被篡改的經歷，隨後不僅有相同遭遇的人留言，更有其他人要求 Grok 生成更多關於她的篡改圖像。她表示：「女性並未同意這種行為。雖然照片中裸露的不是真實的我，但它看起來像我，感覺也像我，這感覺就像有人真的發布了我的裸照或比堅尼照片一樣具有侵犯性。」
監管機構與法律專家的回應
對此，英國內政部（Home Office）發言人表示，政府正在立法禁止「裸體化」（nudification）工具，根據新的刑事罪行，任何提供此類技術的人都將「面臨監禁和巨額罰款」。然而，監管機構 Ofcom 表示，科技公司必須「評估」英國民眾在其平台上看到非法內容的風險，但未確認目前是否正在就人工智能圖像問題對 X 或 Grok 展開調查。Grok 背後的公司 XAI 並未回應評論請求，僅以一則自動生成的訊息回覆稱「傳統媒體在說謊」。
平台政策與現實的矛盾
Grok 是一款免費的人工智能助理，在 X 平台上運作，用戶可以在帖子中標記它以獲得回應或更多背景資訊，同時也能透過其人工智能圖像編輯功能修改上傳的圖片。該工具因允許用戶生成帶有裸露和性化內容的照片及影片而備受批評，此前還被指控製作了關於歌手泰勒絲（Taylor Swift）的露骨影片。杜倫大學（Durham University）的法律教授麥格林（Clare McGlynn）指出，X 或 Grok「如果他們願意，本可以阻止這些形式的虐待」，並補充說他們「似乎享有有罪不罰的特權」。諷刺的是，XAI 自己的可接受使用政策明確禁止「以色情方式描繪他人肖像」。Ofcom 在給英國廣播公司的聲明中重申，「創建或分享未經同意的私密圖像」是違法的，並確認這包括使用人工智能創建的性相關深度偽造品。
來源：bbc.com
封面來源：Adobe Stock
