歐盟週一宣布，對科技狂人馬斯克（Elon Musk）的社交媒體平台X展開正式調查，核心問題直指其人工智能（AI）聊天機械人Grok，被指在平台上大量散播未經同意的性化深度偽造圖像，引發全球監管風暴。歐洲監管機構同時擴大對X推薦系統的現有調查，因該平台計劃改用Grok的AI系統來決定用戶的內容推送。
Grok「一鍵脫衣」功能惹禍 全球反彈
調查起因於Grok一項備受爭議的功能，該服務允許用戶透過AI圖像生成功能「脫去」他人衣物，製作出女性穿著透明比基尼或暴露服裝的偽造圖像。研究人員更警告，部分圖像似乎涉及兒童，令問題性質變得極為嚴重。馬斯克去年夏天推出Grok圖像工具，並將其宣傳為比競爭對手更大膽、限制更少的選擇，加上Grok在X上的生成內容是公開可見的，導致相關偽造圖像迅速傳播，引發全球反彈。馬來西亞和印尼等國更一度封鎖對Grok的訪問。
歐盟《數字服務法案》利劍出鞘
布魯塞爾當局表示，此次調查旨在確定X是否已採取足夠措施，以遏制傳播「經篡改的性露骨圖像」等非法內容的風險，特別是「可能構成兒童性虐待材料」的內容。歐盟委員會指出，這些風險已經「具體化」，使歐盟公民面臨「嚴重傷害」。監管機構將依據歐盟《數字服務法案》（Digital Services Act）審查Grok是否履行其法律義務。該法案是歐盟旨在保護網絡用戶免受有害內容侵害的全面性法規。
歐盟委員會執行副主席維爾庫寧（Henna Virkkunen）在聲明中嚴厲譴責：「針對女性和兒童的非自願性深度偽造是一種暴力、不可接受的貶低形式。」她強調，調查將確定X是否履行法律義務，抑或將歐洲公民的權利視為其服務的「附帶損害」。
X平台面臨多方壓力
面對指控，X平台發言人重申公司致力於打造安全平台，並對兒童性剝削、未經同意的裸露內容採取「零容忍」態度。公司在一份聲明中表示，將停止允許用戶生成人物穿著「比基尼、內衣或其他暴露服裝」的圖像，但此限制僅適用於已認定為非法的地區。
這並非X首次面臨歐盟的嚴格審查。去年12月，布魯塞爾已因X在藍勾認證規則上存在「欺騙性設計實踐」，向其開出1.2億歐元的罰單。與此同時，X在美國亦面臨類似壓力，35個州的總檢察長已聯名致信，要求公司披露防止Grok生成非法深度偽造圖像的具體計劃。
來源：美聯社
封面來源：Adobe Stock
