OpenAI、カンボジア拠点の犯罪詐欺組織を壊滅させる
OpenAIは、カンボジアに拠点を置く犯罪詐欺組織を壊滅させました。この組織はChatGPTを利用して投資、恋愛、ギャンブル、法執行機関のなりすましスキームを促進していました。この行動は、複数の詐欺手法を機会的に組み合わせ、人身取引や強制労働と重なることの多い多様化した犯罪ネットワークの運営を浮き彫りにします。
多様化した詐欺手法とモデルの使用
犯罪者はOpenAIのモデルを使用して偽のオンライン人格を生成し、ターゲット向けのメッセージを翻訳し、プロモーションコンテンツを作成し、日常的な管理業務を処理していました。ネットワークは単一の詐欺タイプに限定せず、さまざまなシナリオを組み合わせて被害者を騙していました。
詐欺タイプと実行
この組織は、いくつかの異なるが重複する詐欺スキームを採用していました：
- 投資・恋愛詐欺: オペレーターはデート用の人格を使用して信頼を築き、偽の暗号通貨や現物金取引の機会を紹介しました。
- ギャンブル詐欺: 行為者はオンラインギャンブルプラットフォームの代表者を装い、偽のボーナスや賞金を提供しました。
- 法執行機関のなりすまし: 詐欺師は法執行機関を装い、架空の罰金を支払わせることで被害者を強要しました。
3段階の攻撃パターン
OpenAIは、ネットワークのさまざまなシナリオに共通する一貫した欺瞞行動パターンを特定しました：
- The Ping:
ChatGPTを使用してWhatsAppやTelegram上で会話を翻訳・生成し、デートプロフィール素材を調査し、ターゲットを引き付けるためのソーシャルメディアコンテンツを作成しました。 - The Zing: 感情的圧力と信頼構築技術を適用し、「リスクフリー」投資を約束したり、ロマンチックな言葉を使ったり、秘密保持を要求したりしました。
- The Sting: 被害者に有効化手数料、報酬、罰金のための入金を指示し、支払い証拠として送金のスクリーンショットを要求しました。
人身取引と強制労働への関係
調査により、ネットワークのAI利用は被害者向け詐欺に限らないことが明らかになりました。ネットワークが生成したコンテンツは、人身取引や強制労働への関与を示唆しており、東南アジアにおける組織犯罪に関する公的報告と一致しています。
募集と管理
行為者はAIを使用してポイペットでの「チャッター」仕事のソーシャルメディア広告を作成し、ビザ、フライト、宿泊を約束しました。内部では、ネットワークはChatGPTを利用して従業員の債務、給与控除、懲罰金、ローン返済の記録を管理していました。
強制と搾取
OpenAIは、拘束、脱走試み、そして人身取引され詐欺組織内で強制労働させられた個人の刑事責任に言及する会話を観察しました。これは、詐欺を実行している人物自身が搾取の被害者である可能性を示しています。
影響と壊滅措置
OpenAIは関連するChatGPTアカウントを禁止し、WhatsAppを含む業界パートナーや関係当局と脅威情報を共有して、行為者がサービスへのアクセスを再取得するのを防ぎました。
総損失額は不明ですが、詐欺師からの内部通信によると、組織は数百人のターゲットとやり取りしており、個々の被害者が数千ドルを失うケースもありました。
AI安全性への戦略的示唆
この事例は、AIを利用した犯罪の領域における2つの重要な傾向を示しています：
- 多様化: 組織的な詐欺ネットワークは高度に多様化しており、複数の詐欺スキームを同時に運営できます。
- 相互接続性: オンライン詐欺、組織犯罪、人身取引の境界が曖昧です。効果的な壊滅には、個々の詐欺活動だけでなく、組織的な犯罪組織を標的にする必要があります。