OpenAI 詐欺作戦報告 2025年10月

OpenAI は、カンボジア、ミャンマー、ナイジェリア発の複数の詐欺ネットワークを撲滅しました。これらのネットワークは ChatGPT を利用してオンライン詐欺活動を拡大・洗練させていました。これらのアクターは AI を用いて既存の詐欺プレイブックの効率を向上させましたが、OpenAI の報告によると、一般ユーザーは詐欺を特定・回避するために ChatGPT を利用する頻度が、詐欺に利用される頻度の最大 3 倍に上ることが分かっています。

「Ping、Zing、Sting」詐欺パターン

OpenAI は、撲滅された詐欺ネットワークが標的をだます際に一貫した 3 段階のパターンを使用していることを特定しました。

The Ping (Cold Outreach): 詐欺師は AI 生成または手作業のコンテンツをインターネットやメッセージングサービス全体に散布し、ソーシャルメディア広告を利用して接触を開始します。
The Zing (Emotional Manipulation): 標的が応答すると、詐欺師は高利益の機会や金銭的損失への恐怖を喚起し、感情を操作します。
The Sting (Extraction): 最終段階では、標的に金銭や機密個人情報の提供を説得します。

既存のプレイブックを拡大するツールとしてのAI

ほとんどの撲滅された作戦は新しい AI ネイティブ詐欺手法を創出したわけではなく、既存の詐欺プレイブックに AI を組み込んで規模と効率を向上させました。ChatGPT の主な活用例は、翻訳、文書作成、ソーシャルメディアコンテンツの生成、基本的なリサーチです。

投資詐欺作戦

カンボジアとナイジェリア発と見られる詐欺作戦は、偽の投資会社を装っていました。これらのアクターは AI を利用して:

偽のウェブサイトやオンライン広告を作成。
取引専門家を装った偽のソーシャルメディアアカウント向けにコンテンツを生成。
被害者を架空の取引プラットフォームに誘導するための文書を翻訳・作成。

ミャンマーにおける運営管理

ミャンマーでは、OpenAI は詐欺センターを撲滅しました。このセンターは詐欺スキームだけでなく、内部業務にも ChatGPT を使用していました。モデルはスケジュール管理、内部告知文の作成、財務口座の管理、寮やデスクの割り当てに活用されました。一部のオペレーターは、オンライン詐欺に関する刑事罰についてモデルに問い合わせることさえ行っていました。

高度なAI活用とペルソナ開発

多くの詐欺師は単純作業に留まりますが、一部の作戦は AI を用いて説得力のある偽装を作り出す点で高度な複雑性を示しています。

合成ペルソナと会話の継続性

カンボジア拠点の作戦は、ChatGPT を使って偽の投資専門家や従業員の詳細な経歴を生成しました。詐欺師はモデルに特定キャラクターの口調でメッセージを書くよう指示し、場合によっては標的からの実際のメッセージをモデルに入力し、偽のペルソナを保ったまま会話を続けさせました。

組織化されたグループダイナミクス

別のカンボジア起源の作戦は、大量送信された SMS を使って標的を WhatsApp グループに招待しました。グループに入ると、標的は複数アカウント間で演出された会話を目にしました。会話には「投資専門家」や経験レベルが異なる複数の投資家が登場し、すべて詐欺師が生成したものです。これらの会話は中国語から単一ブロックで翻訳され、活気ある取引コミュニティを模倣しました。

ターゲティングとコンプライアンス回避

ナイジェリア発と見られる投資詐欺作戦は、ChatGPT に対し、ラテンアメリカの富裕層にソーシャルメディア広告でリーチする方法、所在地を隠す手段、プラットフォームの公開利用規約に照らして広告内容をレビューさせることでプラットフォーム制限を回避する手順を段階的に教えてほしいと求めました。

回避戦術と業界協力

詐欺ネットワークは執拗で、撲滅後も検知回避を頻繁に試みます。OpenAI は以下のような難読化手法を観測しています。

Stylistic Changes: カンボジア拠点の作戦は、AI 検出シグナルを回避するために出力からエムダッシュ（—）を除去するようモデルに指示しました。
Fabricated Explanations: WhatsApp が特定の投資グループを禁止した後、カンボジア系の作戦は、禁止が競合他社による虚偽の通報の結果であると主張するメッセージを生成し、標的の信頼を維持しようとしました。

OpenAI は、Meta との協力を例に挙げ、共有脅威アクターに対する調査と対策実施のための情報共有の重要性を強調しています。