人工智能（AI）公司OpenAI發表最新網誌指出，一個來自中國的帳號利用ChatGPT聊天機器人協助一個社交媒體監聽工具，設計宣傳資料和專案規劃，該帳號現已被停用。
OpenAI表示，這個違規帳號據報為一個政府客戶而設，作為一款「探測器」，流竄X、臉書、Instagram、Reddit、TikTok和YouTube等社交媒體平台，搜尋被操作者定義的政治異見、種族或宗教內容。OpenAI補充，無法核實該工具是否由中國政府所操控。
OpenAI還禁止另一個違規帳號，指其利用ChatGPT制定建議，開發一款名為「高風險維吾爾族相關流入警告模型」（High-Risk Uyghur-Related Inflow Warning Model），專門追蹤與維吾爾族相關人士的行為。
OpenAI從2024年2月開始發布風險報告，吸引外界關注，由與國家相關的用戶利用大型語言模型除錯惡意程式碼、開發網絡釣魚詐騙等行為。新網誌報告了過去一季度值得引起外界注意的威脅和被停權帳號情況。
OpenAI稱，發現華語、俄語和韓語開發人員利用ChatGPT來改進惡意程式，柬埔寨、緬甸和尼日利亞（又譯：奈及利亞）等國也利用ChatGPT製作騙局來詐騙。根據OpenAI的估計，ChatGPT用於偵測詐騙行為數目，是製造騙局數目的三倍。OpenAI今夏干預了來自中國、伊朗和俄羅斯的帳號，利用ChatGPT發布帖文、留言和激發網民參與度，企圖在網上帶動輿論風向。這些由AI生成的內容經常出現在用戶居住國乃至全球各國不同社交媒體上。本報訊
