OpenAI、Operation Wrong NumberのAI支援タスク詐欺を阻止
OpenAIは、ChatGPTを利用して多言語のリクルートと翻訳を行い、詐欺的なタスクスキームを支援していた『Operation Wrong Number』と呼ばれる集中型詐欺作戦を阻止しました。この作戦はAIを活用してコールドアウトリーチを拡大し、世界各地域の被害者との会話を管理していました。
AI駆動の翻訳とリクルート
Operation Wrong Numberは、主にChatGPTを翻訳ツールとして使用し、中国語話者のオペレーターと英語、スペイン語、スワヒリ語、キニアルワンダ語、ドイツ語、ハイチ・クレオール語を話す被害者との間のギャップを埋めました。ネットワークのワークフローは、被害者からの受信メッセージを中国語に翻訳し、オペレーターの回答を中国語から対象言語へ再翻訳することを含んでいました。
翻訳に加えて、ネットワークはChatGPTを用いて短いリクルート形式のメッセージを生成しました。これらのメッセージは、ソーシャルメディアの投稿に「いいね」を付けるといった些細な作業に対して高額給与を提示し、受取人に他者をリクルートするよう促していました。
「Ping、Zing、Sting」ワークフロー
OpenAIは、脅威アクターが被害者を詐欺するために使用した、繰り返し現れる3段階の戦術パターンを特定しました：
- The Ping（コールドコンタクト）: ネットワークはコールドアウトリーチ用のコンテンツを生成し、投資の好機や最小限の作業（例：ソーシャルメディアの投稿に「いいね」）に対して異常に高い賃金を約束します。
- The Zing（熱意喚起）: ネットワークはオペレーターと「従業員」間の会話を翻訳し、タスクの物流詳細や潜在的なボーナス・収入に関する動機付けメッセージを提供します。
- The Sting（金銭抽出）: ネットワークは、被害者により大きな報酬を得るために金銭を支払わせるよう圧力をかけるコンテンツを生成します。これには、初期デポジット、暗号通貨の購入、または「手数料」の要求が含まれます。
インフラと実行
この作戦は高度に集中化されており、カンボジア発である可能性が高いと見られました。脅威アクターは、被害者をファネルに導くためにマルチプラットフォームのメッセージ戦略を利用しました：
- Initial Contact（初回接触）: SMSを通じて配信されました（OpenAI調査員に送られた「Wrong Number」SMSが調査のきっかけとなりました）。
- Engagement（エンゲージメント）: 被害者はSMSからWhatsAppへ誘導されました。
- Management（管理）: 応答者は最終的にTelegram上の「メンター」にルーティングされました。
- Other Platforms（その他のプラットフォーム）: 一部の活動はBonChatメッセージングアプリにも言及していました。
標的となった組織と警告サイン
ネットワークは、株式取引、スクーターレンタル、ソーシャルメディアエンゲージメントなどの業界にわたるさまざまな企業を代表すると主張していました。具体的には、調査により中国語話者のユーザーがHyesung AdvertisingとLightning Shared Scooter Co（LSSC）を代表すると主張するメッセージが生成されていることが判明しました。これらは公的報告でタスク詐欺と指摘されている企業です。
詐欺の主要な指標は、提示された報酬の極端な格差でした。ネットワークは単一のTikTok「いいね」に対して5ドル以上を提供しましたが、オンラインマーケットプレイスの手動レビューでは、1,000件の「いいね」に対して10ドル未満を請求する販売者もいることが分かりました。
影響とリーチ
ネットワークの総リーチは測定が難しいものの、OpenAIは実際の金銭的損失の証拠を確認しました。プラットフォーム外の報告や「従業員」が返金を要求する会話は、一部の個人が疑われる雇用主に支払ったことを示しています。さらに、ソーシャルメディア上でこれらの企業を擁護する本物のユーザーが存在することは、作戦が実世界で一定の関与を得ていたことを示唆しています。