人工智能（AI）新創公司Anthropic發表最新報告指出，AI代理人Claude被應用於高階網路攻擊，但聲稱已成功干擾一名網路犯罪分子針對最少17個組織的「vibe hacking」勒索計劃，部份幾乎受害組織涉及健保、緊急服務和政府。
在該份名為「威脅情報」的報告中，Anthropic透露該名駭客「史無前例地」依賴AI的幫助，企圖勒索受害組織六位數字的贖金，換取避免公開其個人資料。報告聲稱，Anthropic代理程式碼工具Claude Code被用於「自動偵查」、取得受害人的憑證和滲透網路。這款AI產品還被用於做出策略性決定，建議攻擊數據目標以至產生「視覺上令人不安」的勒索紙條。
Anthropic除了將這波攻擊的資料跟相關部門分享，還在發現犯罪活動後封鎖多個涉事帳號，並開發一款自動篩選工具，引入一種更快又更有效率的偵察方法，但未交代細節。報告詳細說明Claude涉及朝鮮一項詐欺招聘騙局和AI生成的勒索軟件開發，稱三宗個案的共同點在於AI的高度反應性和自學特性，意味網路犯罪分子現在除了以操作為目的、還可以從聽取建議的目的來使用AI，AI還可完成過去需要團隊合作才可做到的任務。
Claude不只唯一被用於惡意目的的AI。OpenAI去年表示，其生成式AI工具遭多個與中國和朝鮮有關的網路犯罪組織濫用，這些組織最後遭OpenAI封鎖。本報訊
