「約會誘餌」行動：OpenAI 瓦解 AI 驅動的浪漫詐騙網絡

OpenAI 透過封鎖一批 ChatGPT 帳號及一名 API 客戶，瓦解了一個名為「約會誘餌」（Operation ‘Date Bait’）的半自動化浪漫與任務詐騙網絡。該行動可能源自柬埔寨，並與已知的中國主導犯罪詐騙集團有關，每月詐騙數百名受害者。

詐騙工作流程與 AI 整合

該網絡運作著一個結構化的三階段漏斗，類似於冷門推廣銷售計畫，利用 ChatGPT 和 API 存取權來擴大其欺詐活動。

1. 誘餌：潛在客戶開發

詐騙者使用 ChatGPT 為一個名為「Klub Romantis」的虛假高端約會與伴遊服務生成宣傳文案。這些廣告針對對奢華生活方式感興趣的印尼男性（使用如「高爾夫」、「遊艇」和「高級餐飲」等關鍵字），並以付費社群媒體廣告形式發布。這些廣告將目標引導至一個扮演調情接待員的 AI 聊天機器人，該機器人透過追蹤連結和促銷代碼將目標引導至 Telegram。

2. 連結：建立信任與指派任務

一旦進入 Telegram，該行動便結合了人工操作員與 API 驅動的自動化系統。流程包括：

  • 角色塑造： 接待員角色使用越來越浪漫且露骨的性語言，誘騙目標加入名為「LoveCode」和「SexAction」的虛假約會平台。
  • 社會認同： 平台顯示 AI 生成的公告，宣稱虛構客戶贏得獎品或完成「任務」，以營造虛假的合法感。
  • 導師： 對話會轉交給一名「導師」，該導師使用 ChatGPT 生成並翻譯情緒操縱訊息。受害者被迫透過銀行轉帳或數位錢包進行越來越大額的付款，理由包括購買 VIP 卡或支付飯店押金等虛構原因。

3. 收網：最終榨取

在最後階段，詐騙者試圖收取一筆大額的最終款項，稱為「殺豬盤」（the ‘kill’）。這涉及發明額外費用，如「驗證押金」或「賠償結算」。一旦榨取了最大可能的金額，受害者就會在 Telegram 上被封鎖。

營運支援與業務管理

除了直接與受害者互動外，該網絡還使用 OpenAI 模型來管理其犯罪企業。這包括：

  • 技術協助： 使用 ChatGPT 獲取關於整合 OpenAI API 和更新虛假約會網站的指導。
  • 財務分析： 分析財務帳戶並生成每日報告。
  • 績效追蹤： 追蹤「潛在客戶開發」、「接待團隊」和「主管團隊」等部門的績效。
  • 內部溝通： 在說中文的主管與說印尼語的工作人員之間翻譯訊息。
  • 目標評估： 生成報告，為每位受害者分配一個「殺豬」價值，代表在最後階段預計可榨取的金額。

影響與執法

根據詐騙者自身的輸入資料，該網絡可能同時與數百名目標互動，並每日產生數千美元的收益。OpenAI 指出，這些說法無法被獨立核實。

OpenAI 的政策嚴格禁止將其工具用於欺詐或詐騙。該公司表示致力於與業界同行及當局合作，以瓦解濫用其服務的對抗性行為。

Sources