OpenAI 詐騙行動報告 2025年10月
OpenAI 已摧毀多個源自柬埔寨、緬甸和尼日利亞的詐騙網絡，這些網絡利用 ChatGPT 擴大並精練線上詐騙行動。雖然這些行為者使用 AI 提升現有詐騙劇本的效率，OpenAI 報告指出，公眾使用 ChatGPT 辨識與避免詐騙的頻率高達其被用於協助詐騙的三倍。
「Ping、Zing 與 Sting」詐騙模式
OpenAI 確認被摧毀的詐騙網絡使用一套一致的三階段模式來詐騙目標：
- Ping（冷發訊）：詐騙者在互聯網和訊息服務上散佈 AI 生成或手動製作的內容，常利用社群媒體廣告來發起聯繫。
- Zing（情感操控）：目標回應後，詐騙者製造對高額機會的熱情或對財務損失的恐懼，以操控目標的情緒。
- Sting（抽取）：最後階段是說服目標交出金錢或敏感個人資訊。
AI 作為現有詐騙劇本的擴展工具
大多數被摧毀的行動並未創造全新的 AI 原生詐騙手法，而是將 AI 整合進現有詐騙劇本，以提升規模與效率。ChatGPT 的主要用途包括翻譯、撰寫信函、製作社群媒體內容以及進行基礎研究。
投資詐騙行動
可能源自柬埔寨與尼日利亞的詐騙行動偽裝成虛假的投資公司。這些行為者使用 AI 來：
- 建立詐騙網站與線上廣告。
- 為冒充交易專家的虛假社群媒體帳號產生內容。
- 翻譯並產生信函，以誘使受害者進入虛構的交易平台。
緬甸的營運管理
在緬甸，OpenAI 摧毀了一個詐騙中心，該中心不僅利用 ChatGPT 進行詐騙計畫，還用於內部營運。模型被用來安排日程、草擬內部公告、管理財務帳目，以及分配宿舍與桌位。一些營運者甚至使用模型查詢線上詐騙相關的刑事處罰。
進階 AI 應用與角色開發
雖然許多詐騙者僅執行簡單任務，部分行動在利用 AI 創造可信外觀方面展現更高的複雜度。
合成角色與對話連貫性
一個位於柬埔寨的行動使用 ChatGPT 為虛假的投資專家與員工產生詳細傳記。詐騙者接著指示模型以這些特定角色的口吻撰寫訊息。在某些情況下，他們將目標的實際訊息輸入模型，並要求 ChatGPT 在保持虛假角色的前提下繼續對話。
編排的群組動態
另一個源自柬埔寨的行動使用大量簡訊邀請目標加入 WhatsApp 群組。進入後，目標看到多個帳號之間編排的對話——包括「投資專家」與多位經驗不同的投資者——全部由詐騙者生成。這些對話以單一區塊的中文翻譯呈現，模擬熱鬧的交易社群。
目標鎖定與合規規避
一個可能源自尼日利亞的投資詐騙行動向 ChatGPT 諮詢逐步建議，內容包括如何透過社群媒體廣告接觸拉丁美洲的富裕人士、如何隱蔽其所在地，以及如何透過請模型依平台公開服務條款審查廣告內容來規避平台限制。
規避策略與產業合作
詐騙網絡持續存在，且在被摧毀後常嘗試規避偵測。OpenAI 觀察到多種混淆手法：
- Stylistic Changes：一些柬埔寨的行動指示模型從輸出中移除長破折號，以避免 AI 偵測信號。
- Fabricated Explanations：在 WhatsApp 封禁特定投資群組後，一個與柬埔寨相關的行動產生訊息，聲稱封禁是競爭者的虛假舉報所致，以維持目標的信任。
OpenAI 強調全產業資訊共享的重要性，並提及與 Meta 的合作，以調查並對共同的威脅行為者執行行動。