OpenAI、Operation Sneer Reviewという中国発の影響活動を阻止

OpenAIは、中国発の隠密影響作戦「Operation Sneer Review」を、ソーシャルメディア向け大量コンテンツや社内文書の生成に使用されていたChatGPTアカウントを禁止することで阻止しました。この活動は、生成AIを用いて自然なエンゲージメントをシミュレートし、中国の地政学的利益に沿ったナラティブを複数のグローバルプラットフォームに拡散しようとする試みです。

関係者と作戦意図

OpenAIは、ChatGPTを使用してソーシャルメディア投稿や社内の業績評価を作成していたアカウントを特定し、禁止しました。関係者の意図は、英語、中国語、ウルドゥー語でコンテンツを生成し、隠密影響作戦（IO）を実施することでした。

Key characteristics of the actor include:

  • Language and Origin: プロンプトは主に中国語で発行され、中国に関連する地政学的トピックに焦点を当てていました。あるユーザーはプロンプト内で自らが中国宣伝部に所属していると明言しましたが、OpenAIはこの具体的な主張を裏付ける独立した証拠はないと述べています。
  • Operational Use Cases: 公開向けコンテンツに加えて、関係者はChatGPTを用いて内部方針文書や公的治安文書の様式で書かれたエッセイ、そして作戦管理の手順を詳細に記した業績評価を作成しました。

行動パターンとプラットフォーム分布

Operation Sneer Reviewは、「メイン」アカウントとサポートアカウントの特定のパターンを用いて、自然なエンゲージメントの偽装印象を作り出しました。

ソーシャルメディア戦略

  • Engagement Simulation: 典型的なパターンは、メインアカウントが最初のコンテンツを投稿し、続いてネットワーク内の他のアカウントが生成した返信コメントが続くことで会話をシミュレートするものでした。
  • TikTok: ネットワークは、さまざまな言語や文字（例：韓国語、タイ語、ヘブライ語）のスクリーンネームを使用しましたが、投稿内容の言語とは無関係なことが多く（例：韓国語名のアカウントがウルドゥー語で投稿）、という特徴がありました。
  • X (formerly Twitter): アカウントは通常、漫画風のプロフィール画像を使用し、一部は暗号通貨に関連する名前を使用していました。
  • Facebook: 活動はニュース媒体を装った2つのページの作成に限られていましたが、これらのページにはフォロワーや「いいね！」は全くありませんでした。
  • Reddit and Web Forums: ネットワークは長文投稿を生成し、Redditに1件、他のウェブフォーラムに2件投稿しました。

対象コンテンツとナラティブ

ネットワークが生成したコンテンツは、中国の地政学的利益に厳密に合わせられ、主に3つのテーマに焦点を当てていました。

台湾と「Reversed Front」

作戦名「Sneer Review」は、台湾を中心としたゲーム『Reversed Front』（逆統戦）を標的とした活動に由来します。このゲームは中国共産党への抵抗を想像させるものです。ネットワークは多数の批判的コメントと、ゲームが広範な反発に直面していると主張する長文記事を生成しました。

パキスタンの活動家

英語とウルドゥー語のコンテンツは、バロチスタンへの中国投資を批判したパキスタンの活動家Mahrang Balochを標的にしました。ネットワークはTikTokアカウントとFacebookページを利用し、Balochがポルノ映画に出演したと偽っている動画を投稿し、数百件の生成コメントでエンゲージメントをシミュレートしました。

米国の対外援助

ネットワークはTikTokとXで米国国際開発庁（USAID）の閉鎖に関するコンテンツを生成し、賛成と批判のコメントを作成しました。

影響評価

OpenAIは、Operation Sneer Reviewが阻止された時点でまだ萌芽段階にあったと評価しています。実際のリーチは限定的で、Facebookページはフォロワーがゼロ、Redditの投稿はほとんどがブロックまたは削除されました。

エンゲージメント指標

  • TikTok: 2本の動画の合計で25,000件の「いいね！」が付いた。
  • X: メインアカウントのツイートは通常、約10,000回の閲覧数を得ていました。

OpenAIは、これらの数値は多くのコメントがネットワーク自身によって生成されたものであり、かなりの不正エンゲージメントを示すため、慎重に扱うべきだと警告しています。ブランチングス研究所のインフルエンス作戦用ブレイクアウトスケールを用いて、エンゲージメント数値が正当であると仮定した場合、活動はカテゴリ3の下位に位置すると評価していますが、より多くの不正エンゲージメントが確認されれば下方修正されると述べています。

Sources