OpenAI、ハイファイブ作戦の影響キャンペーンを阻止

OpenAIは、フィリピンの商業マーケティング会社Comm&Sense Incに関連する複数のChatGPTアカウントを、AIを使用して大量の政治的影響コンテンツを生成することに関するポリシー違反として禁止しました。この作戦は「ハイファイブ」と呼ばれ、ChatGPTを用いてソーシャルメディアのトレンドを分析し、英語とタギリッシュで党派的なコメントを生成し、秘密作戦のためのプロモーション資料を作成しました。

ハイファイブ作戦：関与者と手法

Comm&Sense Incは、フィリピンのオーディエンスを対象とした政治的影響キャンペーンの複数の段階を自動化するためにChatGPTを利用しました。関与者は、モデルを用いて政治イベントに関するソーシャルメディア投稿、特にボンボン・マルコス大統領に関わるもののコンテンツ分析を行い、返信に適したテーマを決定しました。

テーマが確定すると、関与者はChatGPTを使用して、通常10語未満の短いコメントを大量に生成し、ソーシャルメディアプラットフォームに投稿しました。さらに、モデルはPRピッチや統計分析を生成し、秘密の影響作戦を現在および既存のクライアントに販売するために使用されました。

プラットフォーム配布と実行

この作戦は、以下の戦略を用いてTikTokとFacebookにコンテンツを配信しました：

• TikTok: 作戦は2025年2月中旬に投稿を開始した5つの専用TikTokチャンネルを管理しました。これらのチャンネルはキャプションを変えて同一の動画を投稿し、数十のTikTokアカウントがその動画へのAI生成コメントを投稿するために使用されました。
• Facebook: AI生成コメントが主流メディアのニュース報道への返信として投稿されました。OpenAIは、これらの主流メディアが作戦に関与しているという兆候はないと指摘しました。

コンテンツの特徴とメッセージ

生成されたコンテンツは短く党派的で、主にマルコス大統領とそのイニシアティブを称賛したり、サラ・ドゥテルテ副大統領を批判したりする内容でした。一部のコメントでは副大統領ドゥテルテを「プリンセス・フィオナ」と呼び、これはおそらく映画『シュレック』シリーズへの言及です。コンテンツの大部分は政治的でしたが、完了したテキストの一部には商業的マーケティング資料が含まれており、同社が複数のクライアントのために活動していたことを示唆しています。

影響と効果

TikTokとFacebookに数千件のコメントを投稿したにもかかわらず、作戦の自然なリーチは限定的でした。OpenAIの調査では、特定されたコメントのいずれもが一桁の「いいね」やシェア、返信を超えることはなく、ほとんどが全く得られていないことが判明しました。

Brookings Institutionのブレイクアウトスケールを用いて影響作戦を測定した結果、OpenAIはこの活動をカテゴリ2に分類しました。この分類は、活動が複数のプラットフォームで行われたものの、実際の人々がコンテンツを広く共有したり関与したりした証拠がほとんどないことを示しています。

アカウントの最初の禁止後、OpenAIは技術的および行動的指標に基づき、脅威アクターがモデルへの再アクセスを試みた複数の事例を観測しました。