BBC調查揭露社群平台存在利用AI生成性化黑人女性形象的歪風後，TikTok已採取行動，封禁了20個相關帳號。這些帳號被指控利用種族刻板印象，並將用戶導向付費色情網站。
- 本文核心內容：
- 涉及平台：TikTok、Instagram
- 違規行為：使用AI生成性化、種族刻板的黑人女性形象，未標註AI內容，導流至色情網站。
- 平台行動：TikTok已封禁20個帳號；Instagram母公司Meta表示正在調查。
- 受害案例：馬來西亞模特烏蘭（Riya Ulan）的影片遭盜用並篡改，觀看次數暴增。
BBC與獨立AI出版物《Riddance》的研究人員發現，在TikTok與Instagram上存在數十個此類帳號，其特色是展示由AI生成、高度性化的黑人女性虛擬形象。這些形象常穿著暴露泳衣，體型誇張，部分甚至擁有經數位處理後極不自然的深黑膚色。帳號名稱多包含「黑人」、「烏木色」等詞彙，並在貼文中公然提及對白人男性的偏好，形成相互吹捧的網絡。研究識別出至少60個帳號的內容連結至付費色情網站，但這些帳號並未依平台規範標註內容為AI生成。
真人影片遭盜用，受害者怒斥「盜竊」
亂象之中，盜用真人影片的行為更引發眾怒。其中一個在數週內吸引三百萬追蹤者的AI帳號，竟直接竊取並修改馬來西亞模特烏蘭（Riya Ulan）的影片。該帳號將一個具備異常深黑膚色的AI臉孔疊加在烏蘭的身體上，完全複製其動作、衣著與背景。
「我感到憤怒，」烏蘭向BBC表示，「我的影片在那裡，不代表你可以直接取用、盜竊並當作自己的發布。」其中一支篡改影片在Instagram上的觀看次數高達一億七千三百萬次，是她原始貼文的47倍。烏蘭表示，她多次向兩大平台舉報，但內容最初未被移除，直到BBC介入後，TikTok才封禁該帳號。
研究員：AI淪為種族剝削新載體
合作調查的分析師努拉尼（Angel Nulani）直言：「我相信這些帳號具種族歧視性，因其延續了剝削黑人的悠久歷史。」她指出，這些帳號利用漫畫式描繪與種族術語，證明其只關心將黑人女性資本化為線上色情機器的一部分。
另一位分析師卡拉斯科（Jeremy Carrasco）表示，雖然對特定膚色的 fetish（戀物情結）早已存在，但AI「賦予其新載體」，讓創造非自然膚色與虛擬形象變得輕而易舉，且操作者能規避社會後果。倡導真實呈現黑人女性的模特福諾恩（Houda Fonone）則認為，這種趨勢是一種「抹除」，用「精緻化」的人工形象取代了黑人女性真實的故事與生活經驗。
面對調查，TikTok發言人回應稱已「移除違規內容並封禁帳號」，並強調對推廣跨平台性服務內容零容忍。Instagram母公司Meta則表示正在調查相關內容。
來源：BBC News
封面來源：Adobe Stock