英國通訊管理局（Ofcom）已就馬斯克（Elon Musk）旗下人工智能公司 xAI 的工具 Grok 被指用於生成「兒童色情化圖像」及為女性「脫衣」的報導，向該公司發出「緊急聯繫」。監管機構發言人證實，他們同時也在調查關於 Grok 生成人物「裸照」的擔憂。此事已引發多國監管機構的關注，並再次點燃了關於人工智能生成內容的法律與道德爭議。
英國廣播公司（BBC）在社交平台 X 上發現多個實例，顯示有用戶要求該聊天機械人修改真實照片，在未經當事人同意的情況下，讓女性穿上比堅尼，甚至將她們置於性暗示的場景中。X 公司未對評論請求作出回應，但在週日向用戶發出警告，要求他們不要使用 Grok 生成包括兒童性虐待材料在內的非法內容。馬斯克本人也發文表示，任何要求人工智能生成非法內容的人，將面臨與親自上傳這些內容「相同的後果」。
Grok濫用爭議擴大
儘管 xAI 公司的可接受使用政策明確禁止「以色情方式描繪人物肖像」，但用戶仍持續利用 Grok 在未經同意的情況下對他人進行數碼「脫衣」。據報導，威爾斯王妃凱特（Catherine, Princess of Wales）的圖像也成為 X 平台上被 Grok 用戶數碼脫衣的對象之一。肯辛頓宮（Kensington Palace）已被聯繫徵求評論。一名發現自己照片被人工智能製作成比堅尼照的記者史密斯（Samantha Smith）向 BBC 表示，這讓她感到「被非人化，並被簡化為一種性別刻板印象」，感覺像是受到了侵犯。
多國監管機構高度關注
此事件的影響已超越英國邊界。歐盟的執法機構歐盟委員會（European Commission）週一表示，正「嚴肅審視此事」。據報，法國、馬來西亞和印度的當局也正在評估情況。同時，英國的互聯網觀察基金會（Internet Watch Foundation）向 BBC 透露，已收到公眾就 X 平台上由 Grok 生成的圖像提出的報告，但表示目前尚未發現達到英國法律界定為兒童性虐待圖像標準的內容。歐盟委員會發言人雷尼爾（Thomas Regnier）稱這些由 Grok 生成的露骨性內容及「帶有兒童特徵的圖像」是「非法的」、「駭人聽聞」且「令人作嘔」，並強調「這在歐洲沒有立足之地」。
法律與技術責任之辯
根據英國的《網絡安全法》（Online Safety Act, OSA），未經當事人同意創作或分享私密或性露骨圖像，包括由人工智能生成的「deepfakes」，均屬違法行為。科技公司也被要求採取「適當措施」以降低英國用戶接觸此類內容的風險，並在知情後「迅速」將其移除。科學、創新與技術委員會（Science, Innovation and Technology Committee）主席昂沃拉女爵士（Dame Chi Onwurah）稱這些報告「令人深感不安」，並批評《網絡安全法》「嚴重不足」，認為這是「英國公民在社交媒體公司逍遙法外的情況下得不到保護的驚人例子」。英國內政部（Home Office）發言人則表示，正在立法禁止裸體化工具，根據新的刑事罪行，任何提供此類技術的人將「面臨監禁和巨額罰款」。
來源：bbc.com
封面來源：Adobe Stock
