OpenAI、AI支援のロマンス・ベイティングとピッグ・ブッチング詐欺を阻止
OpenAIは、カンボジアを拠点とするネットワークが「ピッグ・ブッチング」詐欺を助長するために使用していたChatGPTアカウントのクラスターを停止しました。これらの関係者は、会話を翻訳し、ソーシャルメディアでのエンゲージメントを生成するためにAIを利用し、ターゲットを詐欺的な暗号通貨や外国為替投資に誘い込みました。
ターゲットとしたソーシャルメディアエンゲージメント
詐欺ネットワークは、ChatGPTを使用して日本語、中国語、英語で短いコメントを生成し、Facebook、X、Instagramなどのプラットフォーム上で潜在的な被害者に接触を開始しました。
ターゲティング戦略
- デモグラフィック: この作戦は主に40歳以上の男性、特に医療従事者を対象としていました。
- 興味: 詐欺師はエンゲージメント率を上げるために、ゴルフに関する投稿を特に狙っていました。
- 視覚的欺瞞: アカウントは若い女性のプロフィール画像を使用しており、OpenAIの評価では、AI生成ではなく実在するインフルエンサーやモデルからコピーされたものと見なされています。
- 戦術: コメントはしばしば質問で終わり、返信を促すようにしており、時には数か月または数年前の投稿を対象にすることもありました。
AI駆動のペルソナと会話管理
最初の公開エンゲージメントを超えて、関係者はOpenAIのモデルを使用して継続的な会話を管理し、偽のペルソナを維持していました。
翻訳とトーン
関係者の主な言語は中国語であるように見受けられました。彼らはモデルを使用して、中国語から日本語や英語へ、またはその逆にメッセージを翻訳し、異なる言語圏のターゲットとコミュニケーションを取っていました。
ペルソナ生成
詐欺師はモデルに詳細な人物情報を提供し、AIが応答を生成する際の指針としました。これらの偽ペルソナは通常、以下を含んでいます：
- 特定の名前、職業、所在地、学歴。
- 趣味と、オンライン投資に「手を出す」ことへの関心。
- 「フラーティーな若い女性」らしい口調。
「ピッグ・ブッチング」ワークフロー
OpenAIは、これらの関係者がターゲットを最初の接触から金融詐欺へと導くために使用した6段階のワークフローを特定しました：
- 公開エンゲージメント: ソーシャルメディアにコメントを投稿（多くはゴルフに関する）して接触を開始する。
- ダイレクトメッセージ: AI生成の会話コメントを使用して、会話をダイレクトメッセージに移行する。
- 安全なメッセージング: ターゲットにWhatsAppやLINEなどの安全なアプリへ移行するよう促し、ソーシャルメディアへの不信感や物流上の言い訳を挙げることが多い。
- ロマンチックなエンゲージメント: 信頼を築くために、ますます親密で愛情のこもったメッセージを生成する。
- 金融エンゲージメント: 暗号通貨、金、外国為替投資での高リターンを自慢し、成功を金融関係の親族に帰することが多い。
- 詐欺: 被害者に取引アプリへ資金を送金させ、利益を引き出そうとした際に（必要な手数料など）言い訳を作り出す。
影響とインフラ
OpenAIは、多くの試みがターゲットに詐欺と気付かれた「失敗」に終わったと指摘する一方で、数千ドル規模の取引が言及された会話もありました。
使用されたツール
ネットワークは、検知を回避しターゲットを管理するために多様なツールを利用しました。具体的には：
- メッセージングサービス: WhatsApp、LINE、X、Facebook、Instagram。
- プライバシーツール: Appleの「hide my email」機能。
- 金融プラットフォーム: 各種暗号通貨および外国為替プラットフォーム。
OpenAIは、同社のツールを詐欺やスキャムに使用することを厳格に禁止するポリシーを掲げています。同社は、この阻止されたネットワークに関する情報を業界の仲間や関係当局と共有しました。