OpenAI 破壞 AI 輔助任務詐騙網路

OpenAI 已封禁一批由柬埔寨基地的網路使用的 ChatGPT 帳號，該網路透過 AI 驅動的翻譯與社交工程協助「任務詐騙」。

AI 驅動的社交工程工作流程

該詐騙網路採用了結構化的八步工作流程，將目標從最初接觸推進至金錢損失。詐騙者使用兩種主要角色：負責冷發的「招聘者」以及負責上線與心理操控的「導師」。

1. 初始招募與互動

• Job Posting: 招聘者角色在線上論壇發布遠端工作廣告，聲稱以極高報酬換取極少工作量，例如每日 300 美元加獎金。
• Recruitment: 導師角色透過訊息應用程式（Telegram、WhatsApp、SMS）聯絡潛在員工，聲稱為奢華設計、時尚與旅遊品牌工作。指派的任務是提交五星評價，以提升客戶評分。

2. 建立信任與心理操控

• Reassurance: 當目標表現出懷疑時，詐騙者使用 AI 產生訊息，聲稱因公司已有良好聲譽，工作屬合法。部分情況下，他們甚至自稱過去也曾被詐騙，以拉近關係。
• Training: 有興趣的目標被轉移至 Telegram 進行訓練，並獲得「訓練帳號」，每日執行 25‑35 筆評論任務，帳號顯示虛假收益快速累積。
• Excitement: 隨後向目標提供「特殊」或「終極」的評論任務，附加更高獎金，以提升對潛在報酬的感知價值。

3. 金錢抽取與壓迫

• Activation Fee: 當虛假收益達到一定門檻時，導師告知目標必須支付「啟動費」才能提領資金。詐騙者甚至敦促受害者向朋友或家人借錢。
• Pressurization: 若目標猶豫不決，詐騙者會變得激進，將受害者與更有效率的工作者比較，並威脅將所有累積收益全部沒收。
• Excuses: 付款後，詐騙者提供各種藉口阻止提領，常常要求再付費用才能釋放資金。

技術實作與工具

該網路主要使用 ChatGPT 在烏爾都語與英語之間翻譯短評論，促進詐騙者與受害者的溝通。此外，詐騙者還利用 AI 模型校對冒充奢侈品牌的網站文字，使詐騙看起來更具可信度。

Communication Platforms: 此行動以 Telegram 為主要平台，並輔以 WhatsApp、SMS 以及各類就業論壇。

影響與偵測

OpenAI 在收到 Meta 的舉報後識別出此活動。雖然部分生成的對話顯示目標高度懷疑，暗示整體轉換率低，但線上報告與部分對話仍證實受害者確實失去金錢。

"OpenAI 的政策嚴格禁止將我們工具的輸出用於詐騙或欺詐行為。我們致力於與產業夥伴及主管機關合作，了解 AI 如何影響對抗性行為，並積極阻止濫用我們服務的詐騙活動。"

OpenAI 已將關於此被阻斷網路的資訊分享給產業夥伴與相關主管機關，以提升整體安全。