OpenAI 打擊柬埔寨的犯罪詐騙行動
OpenAI 已經打擊了一個以柬埔寨為基地的犯罪詐騙行動，該行動利用 ChatGPT 促成投資、戀愛、賭博以及冒充執法機關的詐騙手法。此舉凸顯了多元化犯罪網絡的運作方式，這些網絡會機會主義地結合多種詐騙手段，且常與人口販運與強迫勞動交叉重疊。
多元化詐騙手法與模型使用
犯罪分子使用 OpenAI 模型來生成虛假的線上人物、為目標翻譯訊息、製作宣傳內容，以及管理日常行政工作。該網絡並未限制於單一詐騙類型，而是結合各種敘事以欺騙受害者。
詐騙類型與執行方式
該行動採用了多種不同但相互重疊的詐騙計畫：
- 投資與戀愛詐騙： 操作者利用約會人物角色建立信任，之後再引介虛假的加密貨幣與即時黃金交易機會。
- 賭博詐騙： 行動者冒充線上賭博平台的代表，提供虛假的紅利與獎金。
- 冒充執法機關： 詐騙者冒充執法機構，強迫受害者支付虛構的罰款，以應對所謂的犯罪指控。
三階段攻擊模式
OpenAI 發現該網絡在不同敘事中呈現出一致的欺騙行為模式：
- 第一階段（Ping）： 使用 ChatGPT 翻譯並產生 WhatsApp 與 Telegram 上的對話，研究約會檔案資料，並製作社群媒體內容以吸引目標。
- 第二階段（Zing）： 施加情感壓力與建立信任的技巧，例如承諾「零風險」投資、使用浪漫語言，並要求保密。
- 第三階段（Sting）： 指示受害者為啟動費、獎勵或罰款進行存款，並要求提供轉帳截圖作為付款證明。
與人口販運及強迫勞動的關聯
調查顯示，該網絡使用 AI 的範圍不僅限於面向受害者的詐騙。網絡產生的內容暗示其涉及人口販運與強迫勞動，與東南亞有組織犯罪的公開報導相符。
招募與管理
行動者利用 AI 為 Poipet 的「聊天」工作製作社群媒體廣告，承諾簽證、機票與住宿。內部方面，該網絡使用 ChatGPT 紀錄員工債務、薪資扣除、紀律罰款與貸款還款。
強迫與剝削
OpenAI 觀察到對話中提及拘留、逃脫企圖，以及被販運且被迫在詐騙行動中工作的個人之刑事責任。這顯示執行詐騙的個體本身可能也是剝削的受害者。
影響與阻斷措施
OpenAI 封禁了相關的 ChatGPT 帳號，並將威脅訊號與業界夥伴（包括 WhatsApp）及相關當局共享，以防止行動者重新取得其服務。
雖然總金融損失尚不明朗，詐騙者的內部通訊顯示該行動與數百名目標互動，且部分受害者個別損失數千美元。
對 AI 安全的策略性影響
此案例展示了 AI 驅動犯罪領域的兩大關鍵趨勢：
- 多元化： 有組織的詐騙網絡高度多元，能同時運作多種詐騙計畫。
- 互聯性： 線上詐騙、有組織犯罪與人口販運之間的界線模糊。有效的阻斷需要針對策劃的犯罪組織，而非僅僅個別詐騙活動。