內地短視頻平台抖音近日加強對人工智能生成內容的治理，重點打擊利用AI技術製造虛擬「霸總」形象以誤導中老年人的違規行為。此類AI生成內容治理行動已下架大量不當視頻，並處罰了上千個相關賬號，旨在保護數碼辨別力較弱的老年用戶免受網絡詐騙。
本文核心內容：
- 抖音發布AI生成內容治理公告，將「AI霸總」誤導老年人列為重點整治對象。
- 累計下架相關不當內容3.1萬條，處罰賬號1317個，同步清理AI侵權視頻超53.8萬條。
- 「AI霸總」利用AI換臉、合成語音技術，批量製造虛擬的「成熟多金、深情儒雅」男性形象。
- 這類內容精準利用老年人情感孤獨、數碼辨別力弱的弱點，實為流量變現、帶貨詐騙的產業鏈。
「AI霸總」的運作模式與危害
「AI霸總」是平台近期高發的違規類型。其透過AI換臉與合成語音技術，批量製造出西裝革履、身處豪宅豪車的虛擬男性形象。這些形象在視頻中對觀眾以「姐姐」相稱，表達思念，甚至做出單膝跪地求婚、承諾送房送車等行為。即使部分視頻標註了「AI生成」，不少老年人仍信以為真，在評論區留下聯絡方式，甚至深夜備菜等待「約會」。
真實案例揭示詐騙後果
近期內地傳媒曝光多宗典型案例。例如，有70歲老婦因沉迷於此類內容，被「AI霸總」誘導「點櫥窗幫襯生意」，結果高價囤積了大量保健品與日用品，家中堆積如山。另有八旬老太太輕信「總裁戀人」的話術，付費2000元購買所謂的「致富課程」，但該課程實際上毫無價值。這些案例顯示，不法分子以「黃昏戀」、「真情陪伴」為誘餌，實質是進行精準的流量變現與帶貨詐騙。