OpenAI、ロシアの「Doppelganger」影響作戦を阻止

OpenAIは、ロシアの影響作戦「Doppelganger」に関連する4つのアカウントクラスターを禁止しました。これらのアクターは、OpenAIのモデルを使用してウェブサイトやソーシャルメディア向けに多言語コンテンツを生成し、ヨーロッパと北米のオーディエンスに影響を与えることを目的とし、主にウクライナ戦争に焦点を当てていました。

影響作戦の戦術とアカウントクラスター

OpenAIは、異なる戦術、技術、手順（TTP）を用いる4つの異なるアカウントクラスターを特定し、作戦が異なる機能チームによって管理されていたことを示唆しています。

クラスター1：多言語ソーシャルメディアエンゲージメント

このクラスターは、英語、フランス語、ドイツ語、イタリア語、ポーランド語で短いテキストコメントを生成しました。これらのコメントは、ミームや動画と共に9GAGとX（旧Twitter）に投稿されました。

9GAG アクティビティ: アカウントはしばしば有名人や猫のプロフィール画像を使用し、さまざまなチャンネル（例："Random"、ペット、スポーツ、ユーモア、デーティング）に投稿しました。支持の錯覚を作るために、3〜5アカウントが各投稿に対して「hahaha」や「lol」のような簡単なメッセージで返信しました。これらのアカウントは通常同じ日に作成され、キャンペーンコンテンツのみとやり取りしていました。
X アクティビティ: アカウントは通常1〜2回の投稿しか行いませんでした。コメントはランダムに見えるリンク（例："solarpanelfor.sale"）と組み合わされ、Doppelgangerに帰属するジオフェンスされたウェブサイトへリダイレクトされました。英語、ドイツ語、ポーランド語の記事がフランスのIPアドレスからしかアクセスできないというエラーも発生しました。
回避戦術: OpenAIのサポート対象国アクセスポリシーを回避するために、このクラスターはロシアとチェコ共和国の企業に関連するサービスを利用していました。OpenAIはその後、このサービスのAPIアクセスを無効化しました。

クラスター2：翻訳とコンテンツ生成

このクラスターは、ロシア語の原稿を英語とフランス語に翻訳することに注力しました。これらの記事は rrn.media に掲載されており、同サイトは繰り返しDoppelgangerに帰属するとされています。このクラスターはまた、これらの記事を宣伝するための短いソーシャルメディアコメントも生成しました。

クラスター3：フランス語コンテンツの洗練

このクラスターは、franceeteu.today に掲載されたフランス語記事の生成、校正、修正に専念しており、同サイトもDoppelgangerに帰属するとされています。

クラスター4：ドイツ語コンテンツ生成

このクラスターはDoppelgangerのウェブサイト grenzezank.com からコンテンツを取得し、同サイト名のFacebookページとグループ向けに短い投稿を生成しました。

コンテンツのテーマとモデルの制約

コンテンツの大半はウクライナ戦争に焦点を当て、ロシアを肯定的に、米国、NATO、EUを否定的に描くことを目的としていました。一般的なナラティブは以下の通りです：

ロシアはヨーロッパにとって不可欠な経済パートナーである。
西側の指導者は有権者と乖離している。
ウクライナは弱く、腐敗しており、敗北に近い。

OpenAIは、アクターが同社のモデルを使って欧州の政治家やロシア批判者の漫画画像を生成しようと試みたが、モデルはこれらのリクエストを拒否したと指摘しています。

影響評価

OpenAIは、特定されたDoppelgangerキャンペーンが実際のオーディエンスからの実質的な肯定的エンゲージメントを得られなかったと評価しています。

エンゲージメント指標: 9GAGでは、投稿は通常5〜10のアップボート（主にキャンペーン関連アカウントから）と15〜200のダウンボートを受けました。Xでは、投稿は約1,000回のシェアがあり、いいねや返信はゼロで、非実在的な拡散を示唆しています。
ブレイクアウトスケール評価: ブルッキングス研究所のブレイクアウトスケール（1〜6）を用いて、OpenAIはこの活動をカテゴリ2に分類しています。これは、作戦が複数のプラットフォームに投稿したものの、実際のオーディエンスとの「ブレイクアウト」や重要なエンゲージメントを達成できなかったことを示しています。