AIを活用したロマンス詐欺に関するOpenAIのケーススタディ

OpenAIは、詐欺ネットワークがAIを活用してロマンス詐欺、投資詐欺、タスクベースの詐欺を行う際に用いる「ping（接触）」「zing（感情の喚起）」「sting（金銭の搾取）」という3段階のワークフローを特定しました。このフレームワークは、脅威アクターがどのように大規模言語モデル（LLM）を利用して、被害者を騙すための働きかけのエンゲージメントと説得力を高めているかを説明しています。

AIを活用した詐欺のワークフロー

悪意のあるアクターは、AIを使用して、ターゲットに対する心理的操作を3つの明確なフェーズで洗練させています。

1. The Ping（コールドコンタクト）

pingは、ターゲットの注意を引くために設計された最初の接触です。脅威アクターはChatGPTを使用して、従来の詐欺よりも魅力的で、非ネイティブの話し方に見えないメッセージを生成し、説得力を高めています。

• ターゲティング手法: 配信方法は、無差別なアプローチから精密なターゲティングまで多岐にわたります。例として、ゴルフに関するソーシャルメディアの投稿に返信して40代の医療専門職の米国人男性をターゲットにする、コールドコールSMS、偽の採用メッセージ、またはソーシャルメディア広告の使用などが挙げられます。
• 例: 2025年にOpenAIが報告した「豚の屠殺（pig butchering）」詐欺では、pingにおいて、ゴルフなどのターゲットの特定の関心事にメッセージを合わせ、初期の信頼関係を構築していました。

2. The Zing（感情の喚起）

zingフェーズは、ターゲットを操作しやすくするために強い感情を引き起こすことに焦点を当てています。詐欺の種類に応じて、目的は魅力、興奮、または恐怖を生み出すことです。

• ロマンス詐欺: 目的は、ターゲットに詐欺師に対する恋愛感情を抱かせることです。
• 投資/タスク詐欺: 目的は、儲け話に対する興奮、取り残されることへの恐怖（FOMO）、または申し立てられた法的リスクや未払いの請求書に対する不安を煽ることです。

3. The Sting（金銭の搾取）

stingは、詐欺師がAI生成コンテンツを使用してターゲットに資金を転送させる最終フェーズです。要求の正当化理由は詐欺の種類によって異なります。

• ロマンス詐欺: パートナーのビジネスへの投資や、経済的危機を乗り切るための資金提供などが要求に含まれる場合があります。
• タスク詐欺: ターゲットは、すでに稼いだと信じ込んでいる架空の収益にアクセスするために、お金を支払う必要があると言われます。
• 投資詐欺: ターゲットは、存在しない投資会社が関与する詐欺スキームの一部に組み込まれます。

配信ネットワークとターゲティング

AIはメッセージの内容を強化しますが、配信ネットワークは依然としてオペレーションの成功における重要な要素です。OpenAIは、無差別かターゲットを絞ったかにかかわらず、配信方法がターゲットを搾取する能力に大きな影響を与えると指摘しています。

• 配信チャネル: 現在のオペレーションでは、SMS、暗号化メッセージングアプリ、ソーシャルメディアの投稿、オンライン広告が使用されています。これは、電子メール、電話、手紙、電報といったAI以前の時代の方法とは対照的です。
• ターゲティング戦略: 一部のオペレーションでは、精密なターゲティングが採用されています。例えば、あるロマンス詐欺では、ソーシャルメディア広告を使用してインドネシアの若い男性を具体的にターゲットにしており、セレブリティ詐欺では有名人のファン層をターゲットにしています。