法國巴黎檢察官辦公室公布,法國警方聯同歐洲刑警組織(Europol)突擊搜查社交平台X位於巴黎的多個辦公室,調查公司涉嫌濫用演算法及詐欺存取數據的指控。有關調查已經持續大約1年。檢方表示,因應X旗下AI聊天機械人Grok的運作方式引起投訴,調查範圍將會擴大,涵蓋有關持有及傳播兒童色情影像,以及透過生成裸露的深偽影片侵犯肖像權等七宗罪行。
檢方將會傳召全資擁有X的富商馬斯克,及前行政總裁雅卡里諾4月20日出席聽證會作供,其他員工亦被傳召作證人。聽證會結束後,當局可決定暫停或繼續調查,並可能會拘留涉案人士。

據美國CNN和《德國之聲》(Deutsche Welle)等媒體報道,巴黎檢察官辦公室的調查核心,是聚焦於Grok的圖片生成功能。此功能曾允許使用者啟動所謂「刺激模式(Spicy Mode)」,產出大量含有真實人物、女性及兒童被性化處理的深偽圖片。
事件引起國際譁然,包括歐盟、印尼與馬來西亞等多國發起調查或封鎖該功能。xAI公司(開發Grok的人工智慧公司)事後聲明,未來不會在違法國家開放此類功能,並將限制為付費用戶專屬。
除了圖像爭議,Grok也曾發文聲稱「奧斯威辛集中營的毒氣室是用來以氰化物消毒對抗斑疹傷寒」,此類內容在法國屬於違法的納粹大屠殺否認言論。雖然該貼文隨後被刪除,Grok先前亦曾發表帶有反猶內容的言論,包括稱讚希特勒,引發強烈反彈。
另外,檢察官辦公室亦表示,不會再透過X發布消息,將改用領英(LinkedIn) 和Instagram。

