OpenAI、Bet Botギャンブルスパムネットワークを撹乱

OpenAIは、APIを使用してX（旧Twitter）上で会話の自動生成を行い、ギャンブルサイトを宣伝していたアカウントネットワークを禁止しました。この作業は「Bet Bot」と呼ばれ、イスラエル拠点のスタートアップを利用してOpenAIのモデルにアクセスし、偽のペルソナを管理し、ダイレクトメッセージを通じてスパムリンクを配布していました。

ペルソナ管理とソーシャルメディア自動化

Bet BotはOpenAIのモデルを使用して、偽のソーシャルメディアペルソナのネットワークを作成・維持しました。これらのアカウントはスポーツをテーマにしたバナーやプロフィールで特徴付けられ、マンチェスターやリバプールなど英国サッカーの拠点を拠点とすると主張するものもありました。ほとんどのアカウントは2023年12月または2024年6月に作成されています。

Technical indicators of these fake personas included:

• AI生成画像: プロフィール画像は文字が歪んでいることからAI生成と推測されます。場合によっては、同じAI生成画像が複数のアカウントで再利用されていました。
• 人工的なインフレ: アカウントは通常、フォロワー数が非常に少なく（1桁または低2桁）で、同じネットワーク内の他のアカウントをフォローさせることで人工的に増やされていました。
• あり得ない名前: 一部のアカウントは「KobeBryantJohnson」のような疑わしい名前を使用していました。
• コンテンツ戦略: モデルはプロフィール文の生成、フォローすべきアカウントの調査、既存の投稿やコメントの分析、英語での返信文の作成に使用されました。

コンテンツ生成と配布戦術

この作業は、コンテンツ生成に二本柱のアプローチを採用しました：公開エンゲージメントとプライベートメッセージです。

公開エンゲージメント

偽のペルソナはX上で公開コメントを投稿し、通常はすでに複数の人が関与している短い会話を対象としていました。コンテンツは主にスポーツ（サッカー、野球、バスケットボール、ソフトボール、フットボール、ホッケー）に焦点を当て、時折米国や英国の政治に言及しました。政治的な投稿は一貫したイデオロギーを持たず、特定の候補者や政党を支持するものではありませんでした。

ダイレクトメッセージ（DM）スパム

公開投稿は偽のペルソナの偽装として機能しましたが、主な目的はギャンブルリンクの配布でした。この作業は、ギャンブルに言及し、短縮URL（例：bit[.]ly）を含むダイレクトメッセージ用のコンテンツを生成し、オンラインギャンブルサイトへ誘導しました。OpenAIは、DMは非公開であるものの、プロンプトデータから実際のユーザーとの複数回のやり取りが行われた会話が存在したことが示唆されており、一部のユーザーはギャンブルリンクに対して懐疑的であると指摘しました。

影響評価とBreakout Scale

OpenAIは、Bet Botが政治的影響作戦ではなく、商業的スパムネットワークであると評価しています。フォロワー数が少ないことから示される限定的なリーチにもかかわらず、この作業は特定の戦術、技術、手順（TTP）を示し、ダイレクトメッセージを通じて実際の人々と関わることができました。

Breakout Scaleを使用して、OpenAIはこの活動をCategory 2に分類しました。これは、活動が1つのプラットフォーム（X）に限定されているものの、実際の人々がコンテンツに関与した証拠があることを意味します。