OpenAI、ロシアの影響活動「Stop News」作戦を阻止

OpenAIは、ロシア発の影響作戦「Stop News」として知られるものに関連するChatGPTアカウントのクラスターを禁止しました。この作戦は、AI生成コンテンツを利用してニュースアウトレットやソーシャルメディアアカウントを模倣し、複数のプラットフォームで特定のナラティブやプロモーション素材を拡散しました。

作戦概要と関係者プロフィール

Operation Stop Newsはロシアで発生し、マーケティング会社が運営しているように見えました。OpenAIは、Metaの2024年第2四半期脅威レポートで見つかったプラットフォーム外の指標を受けて調査を開始しました。この作戦の主な目的は、英語、フランス語、ロシア語でコンテンツを生成し、さまざまなウェブサイトやソーシャルメディアプラットフォームで配信することでした。

AI駆動型コンテンツ生成と配信

Stop NewsはOpenAIモデルを使用して、短いコメント、長文記事、画像など多様なコンテンツを生成しました。配信戦略は言語と対象地域によって異なります。

英語とフランス語: 長文記事は英国やアフリカのニュースアウトレットを装ったウェブサイトに掲載されました。短いコメントはX（旧Twitter）を通じて、場合によってはFacebookやInstagramでも配信されました。
ロシア語: コンテンツはロシア語フォーラムやウェブサイトでプロモーション素材として使用され、サンクトペテルブルク地域の企業への顧客フィードバックへの回答も含まれていました。

ビジュアルと画像の使用

この作戦は画像生成にDALL·Eを多用していたことで特に顕著でした。これらの画像は通常、漫画風のスタイル、鮮やかな色彩、または注目を集めエンゲージメントを高めるためのドラマチックなトーンが特徴です。OpenAIは、これらの画像はディープフェイクや事象を偽って表すことを意図したものではなく、投稿をより目立たせるためのものであると指摘しました。

さらに、作戦は最新のAIと従来の技術を組み合わせていました。コンテンツにはDALL·Eが使用されましたが、ソーシャルメディアアカウントのプロフィール画像はしばしば生成的敵対ネットワーク（GAN）を用いて作成されており、これは2019年以降の影響作戦で一般的な手法です。

コンテンツのテーマとナラティブ

Stop Newsが生成したコンテンツは、対象となるオーディエンスに応じて異なるテーマに焦点を当てていました。

イギリス: britishtalks[.]com のコンテンツは政治以外のニュース、スポーツ、文化に焦点を当てていました。しかし、euronewstop[.]co[.]uk はこのコンテンツにウクライナへの批判や英国のウクライナ支援に関する批判を混在させていました。
アフリカ（フランス語）: 記事とコメントは西アフリカの音楽と文化に焦点を当て、ウクライナとフランスへの批判を交えていました。フランスがパリオリンピックの組織に失敗したという非難も含まれています。
ロシア: コンテンツは主に北西ロシア、特にサンクトペテルブルク地域の商業サービスを宣伝していました。

影響とエンゲージメント分析

AIを使用したにもかかわらず、作戦のソーシャルメディアエンゲージメントは低いままでした。ほとんどのXアカウントは2桁のフォロワー数で、MetaはFacebookとInstagramの合計フォロワー数が2,100人であると報告しました。

しかしながら、作戦は正当な地域組織との「情報パートナーシップ」を確立するという独自の成功を収めました。パートナーにはウェールズの学校、ヨークシャーの教会、カリフォルニアの商工会議所協会が含まれます。これらの組織は自らのウェブサイトでパートナーシップに関する情報を公開し、作戦の「ニュース」ブランドが共同出版や地域 outreach を通じて会員と交流できるようにしました。

ブレイクアウトスケール評価

OpenAIはこの作戦をブレイクアウトスケール（1〜6の尺度）でカテゴリ3と評価しています。この評価は以下に基づきます。

活動: 複数のプラットフォームで投稿活動が行われました。
エンゲージメント: 実際の人々、特に「情報パートナー」が作戦に関与した証拠がありましたが、規模の大きいロシアの「トロール」作戦ほどのバイラリティはありませんでした。