Operation Date Bait: OpenAIがAIを活用したロマンス詐欺ネットワークを阻止

OpenAIは、ChatGPTアカウントのクラスターおよび1つのAPI顧客を禁止することにより、Operation ‘Date Bait’（デート・ベイト作戦）として知られる半自動化されたロマンス詐欺およびタスク詐欺ネットワークを阻止しました。この作戦はカンボジアで発生した可能性が高く、中国主導の既知の犯罪詐欺グループと連携しており、毎月数百人の被害者をだましていました。

詐欺のワークフローとAIの統合

このネットワークは、コールドアウトリーチ型の営業プログラムを彷彿とさせる構造化された3段階のファネルを運用し、ChatGPTとAPIアクセスを利用して詐欺活動を拡大していました。

1. ザ・ピング：リードジェネレーション

詐欺師たちはChatGPTを使用して、「Klub Romantis」という偽の高級デート・エスコートサービスの宣伝文を作成しました。これらの広告は、贅沢なライフスタイルに関心のあるインドネシア人男性をターゲットにし（「ゴルフ」、「ヨット」、「高級料理」などのキーワードを使用）、有料のソーシャルメディア広告として投稿されました。これらの広告は、追跡用URLやプロモーションコードを通じてターゲットをTelegramへと誘導する、誘惑的な受付係を装ったAIチャットボットへとつながっていました。

2. ザ・ジング：信頼構築とタスクの割り当て

Telegramに誘導されると、この作戦は人間のオペレーターとAPIを活用した自動化を組み合わせました。プロセスには以下が含まれます：

• ペルソナの開発: 受付係のペルソナは、ターゲットを「LoveCode」や「SexAction」と呼ばれる偽の出会い系プラットフォームに誘い込むために、ますますロマンチックで性的に露骨な言葉遣いを使用しました。
• 社会的証明: プラットフォームには、架空の顧客が賞品を獲得したり、「ミッション」を完了したりしたというAI生成の通知が表示され、偽の正当性が演出されていました。
• メンター: 会話は、ChatGPTを使用して感情的に操作するメッセージを作成・翻訳する「メンター」に引き継がれました。被害者は、VIPカードの購入やホテルのデポジット支払いといった架空の理由で、銀行振込やデジタルウォレットを通じて、ますます高額な支払いを強要されました。

3. ザ・スティング：最終的な搾取

最終段階で、詐欺師たちは「キル」と呼ばれる最後の大口支払いを回収しようと試みました。これには、「確認用デポジット」や「補償金」といった追加料金をでっち上げることが含まれます。可能な限り最大限の金額を搾取し終えると、被害者はTelegramでブロックされました。

運用サポートとビジネス管理

被害者との直接的なやり取り以外にも、このネットワークは犯罪事業を管理するためにOpenAIのモデルを使用していました。これには以下が含まれます：

• 技術支援: OpenAI APIの統合や偽の出会い系サイトの更新に関するガイダンスを得るためにChatGPTを使用。
• 財務分析: 金融口座の分析や日次レポートの作成。
• パフォーマンス追跡: 「リードジェネレーション」、「受付チーム」、「スーパーバイザーチーム」などの部門間でのパフォーマンス追跡。
• 内部コミュニケーション: 中国語を話すスーパーバイザーとインドネシア語を話す作業員との間でのメッセージ翻訳。
• ターゲットの評価: 各被害者に「キル」価値（最終段階で搾取されると推定される金額）を割り当てるレポートの作成。

影響と執行

詐欺師自身の入力に基づくと、このネットワークは同時に数百人のターゲットとやり取りし、毎日数千ドルを生成していた可能性があります。OpenAIは、これらの主張を独自に検証することはできないと述べています。

OpenAIのポリシーは、詐欺や不正行為のためにツールを使用することを厳格に禁止しています。同社は、サービスを悪用する敵対的な行動を阻止するために、業界の仲間や当局と協力していく姿勢を表明しました。