人工智能（AI）生成的不雅圖像氾濫成災，日本政府週五正式向社交媒體平台X（前稱Twitter）發出警告，要求其針對AI工具被濫用於篡改及性化真人圖像的行為採取具體措施，否則不排除採取法律行動。
近期X平台上湧現大量利用AI生成的不當篡改真人圖像，引發社會廣泛憂慮。據報日本有多達數千萬用戶使用該平台。日本政府已要求X的營運商提交應對計劃，並表明若情況未見改善，可能依據AI相關法律發布指導方針。
Grok工具遭濫用 全球多國調查
由美國企業家馬斯克（Elon Musk）領導的X平台，去年推出生成式AI工具「Grok」，允許用戶透過簡單指令生成圖像。然而，該服務迅速遭人濫用，大量製作真人偽造色情圖像，已促使英國、加拿大及馬來西亞等多國政府對X展開調查。此次是日本政府首度公開其應對行動。
內閣府憂心偽造內容散播
日本AI戰略擔當大臣小野田紀美（Kimi Onoda）在內閣會議後表示：「我們將在獲得相關部會合作的同時，加速進行討論。」提出要求的內閣府負責監督AI立法，該部門對偽造內容能輕易被製作及散播深感擔憂，指出偽造他人圖像可能侵害肖像權或名譽權等個人權利。
對此，X平台回應稱會採取行動移除高優先級的違規內容，包括兒童性虐待材料及未經同意的裸露影像。值得注意的是，日本政府去年亦曾就OpenAI的影片生成工具「Sora」生成極似日本動畫的影片，要求對方改善。
來源：共同社
封面來源：Adobe Stock
