OpenAI、AI支援型タスク詐欺ネットワークを阻止

OpenAIは、カンボジア拠点のネットワークが「タスク詐欺」を行うために使用したChatGPTアカウントのクラスターを停止しました。これらの詐欺師は、ウルドゥー語と英語間のコミュニケーションをAIで翻訳し、被害者に高額報酬のリモートジョブの偽装で「アクティベーション料金」を支払わせるよう欺いていました。

AI駆動型ソーシャルエンジニアリングワークフロー

詐欺ネットワークは、ターゲットを初期接触から金銭的損失へと導くために、体系的な8段階のワークフローを採用しました。詐欺師は主に2つのペルソナを使用しました。「リクルーター」はコールドアウトリーチを担当し、「メンター」はオンボーディングと心理的操作を管理しました。

1. 初期リクルートとエンゲージメント

• 求人掲載: リクルーターのペルソナは、オンラインフォーラムにリモートワークの広告を掲載し、1日300ドル＋ボーナスなど、最小限の労力で高額報酬を提供しました。
• リクルート: メンターのペルソナは、Telegram、WhatsApp、SMSなどのメッセージングアプリを通じて潜在的な従業員に連絡し、ラグジュアリーデザイン、ファッション、旅行ブランドのために働いていると主張しました。割り当てられたタスクは、顧客評価を上げるために5つ星レビューを投稿することでした。

2. 信頼構築と心理的操作

• 安心感の提供: ターゲットが懐疑的な姿勢を示すと、詐欺師はAIを使って、会社の確立された評判により仕事が正当であると主張するメッセージを生成しました。場合によっては、過去に自分たちも詐欺に遭ったと主張し、親近感を築きました。
• トレーニング: 興味を示したターゲットはTelegramに移され、トレーニングを受けました。彼らには「トレーニングアカウント」が与えられ、1日あたり25〜35件のレビュータスクを実行し、アカウント上で偽の収益が急速に増加しているように見せられました。
• 興奮感の演出: ターゲットには、より高いボーナスが付く「特別」または「究極」のレビュータスクが提供され、潜在的な支払い額の価値が高く見えるようにされました。

3. 金銭的搾取と圧力

• アクティベーション料金: 偽の収益が一定の閾値に達すると、メンターはターゲットに資金を引き出すために「アクティベーション料金」を支払う必要があると伝えました。詐欺師は必要に応じて友人や家族から借りるよう被害者に促しました。
• 圧力: ターゲットが支払いをためらうと、詐欺師は攻撃的になり、被害者をより効率的な労働者と比較し、蓄積されたすべての収益を失うと脅しました。
• 言い訳: 支払い後、詐欺師は引き出しを阻止するためにさまざまな言い訳をし、資金を解放するためにさらに支払いを要求することがしばしばありました。

技術的実装とツール

ネットワークは主にChatGPTを使用してウルドゥー語と英語間の短いコメントを翻訳し、詐欺師と被害者間のコミュニケーションを円滑にしました。さらに、詐欺師はAIモデルを用いて、ラグジュアリーブランドを偽装したウェブサイトのテキストを校正し、詐欺の信憑性を高めました。

コミュニケーションプラットフォーム: この作業は主にTelegramをプラットフォームとして使用し、WhatsApp、SMS、さまざまな求人フォーラムを補助的に利用しました。

影響と検出

OpenAIはMetaからの情報提供を受けてこの活動を特定しました。生成された会話の一部はターゲットが非常に懐疑的であることを示しており、全体的な転換率が低いことを示唆していますが、オンライン報告やいくつかの会話は被害者が実際に金銭を失ったことを確認しています。

OpenAIのポリシーは、当社のツールの出力を詐欺やスキャンダルに使用することを厳格に禁止しています。私たちは、AIが敵対的行動にどのように影響を与えているかを理解し、当社のサービスを悪用する詐欺活動を積極的に阻止するために、業界の仲間や当局と協力することに専念しています。

OpenAIは、この阻止されたネットワークに関する情報を業界の仲間や関係当局と共有し、集合的な安全性を高めています。