人工智能（AI）已成為網路犯罪分子的首選工具，越來越常使用該技術來進行詐騙，建立了一支毋須進食或睡眠的機器人大軍。科技網站CNET指出，隨著詐騙者利用深度偽造（deepfake）和語音克隆（voice clone）等工具，製造出極其逼真的視覺與聲音效果，大規模的電話行銷詐騙正在被更針對性的AI驅動攻擊所取代。
生成式AI能夠根據學習到的模式和資料，來創建虛假的影音內容，幾乎就像聊天機器人ChatGPT和Gemini生成電子郵件和會議摘要一樣簡單，導致當前金融詐欺和身分盜竊罪案空前容易。根據預測，到2027年這些機器學習系統造成的受害者損失，將高達每年400億元。
一群視頻博主、內容創作者和電腦工程師正在創建一個防護盾，以對抗層出不窮的詐騙分子，無論對手是機器人或人類。這些反詐鬥士正採用非傳統的方法，揭露那些試圖竊取民眾金錢和身分的竊賊和駭客。有時，反詐騙者會使用AI技術來浪費詐騙者的時間，或展示常見的詐騙手法來教育大眾。在其他情況下，他們則與金融機構和執法當局密切合作，將AI整合入其系統中，以防止詐騙並鎖定不法分子。
但這是一場艱苦的奮鬥，AI系統正在以驚人的速度進步，意味著用來對付詐騙的方法必須不斷演進。反詐騙與合規解決方案公司Sardine的執行長蘭詹（Soups Ranjan）表示，談到新技術，詐騙分子總是領先一步。他稱：「如果不使用AI進行反擊，你就會落後。」
接受CNET訪問的其中一名反詐鬥士是YouTube網紅Kitboga，其頻道有370萬名粉絲，有數百個影片披露如何反攻騙局，包括禮品卡騙局、社保和國稅局稅務騙局等，他經常假扮為有聽力問題的毫無戒心的長者。Kitboga本職為軟件工程師和Twitch串流平台主播。在一段影片中，Kitboga使用變聲器扮成一個退款騙局的無辜受害者，騙子聲稱需遠端存取他的電腦才能將錢匯給他，Kitboga在一部虛擬電腦上準備好了一個虛假帳戶，允許騙子向一個假的美國銀行頁面電匯，然後向該網站託管公司的反詐騙部門舉報，一兩天之內該頁面即被撤下。本報訊
