OpenAIがSTORM-2035イラン影響活動を阻止

OpenAIは、イラン起源の影響作戦であるStorm-2035を、複数のプラットフォームで欺瞞的な政治コンテンツを生成するために使用されていたChatGPTアカウントを禁止することで阻止しました。この作戦は、AIを利用して長文記事と短文ソーシャルメディアエンゲージメントの両方の生産を拡大し、多様な政治的視点をシミュレートすることを示しています。

Storm-2035の特定と帰属

OpenAIは、協調的な影響キャンペーンのために英語とスペイン語のコンテンツを生成していたChatGPTアカウントのセットを特定し、禁止しました。このアクターの活動は、X上の10以上の偽のペルソナ、Instagramの1アカウント、そして5つの別々のウェブサイトを含む複数のプラットフォームにまたがってリンクされていました。

帰属は産業横断的な協力によって実現されました：

Microsoft は、以前にアクターに関連するいくつかのウェブサイトを「Storm-2035」という名前で報告していました。
Meta は、特定されたInstagramアカウントが、Metaが2022年12月に阻止したイランのネットワークに接続していることを確認しました。

OpenAIがアクターの行動を可視化したことで、特定のソーシャルメディア投稿活動と関連ウェブサイトとの初めての結びつきが可能になりました。

作戦の作業フローと戦術

アクターは、コンテンツを拡散し偽のペルソナを構築するために、2つの平行した作業フローを採用しました。

長文記事生成

アクターはOpenAIモデルを使用して英語の記事を生成し、通常は700〜900語の長さでした。これらは、進歩的または保守的な立場を装った5つのウェブサイトに掲載され、異なるイデオロギーのオーディエンスを対象としました。これらの記事の主な焦点は米国であり、現在の選挙サイクルにおける大統領候補者と副大統領候補者に言及しています。

ソーシャルメディアエンゲージメント

この作戦は、XとInstagram向けに英語とスペイン語の短いコメントを生成するためにAIを使用しました。ペルソナは、信憑性を持たせるためにさまざまな役割を採用しました：

On X: アカウントは米国大統領選挙の主要候補者双方の支持者として装っていました。
On Instagram: アカウントはスコットランド独立の支持者として装っていました。

これらの活動を支援するために、アカウントはChatGPTを使用して基本的な調査を行い、ソーシャルメディアエンゲージメントを向上させる方法に関するヒントを求めました。あるケースでは、ユーザーがMicrosoftがこの作戦を公開したことが、イランのサイバー作戦がロシアや中国のものよりも影響力が大きいことを証明したと主張する記事を生成しようとしましたが、OpenAIはこの特定のテキストがオンラインに投稿された証拠は見つかりませんでした。

コンテンツのテーマと戦略

生成されたコンテンツは、影響力を高めるために極めて分極化した地政学的・社会的課題に焦点を当てました。主なテーマは以下の通りです：

Global Conflicts: ガザ紛争とオリンピックでのイスラエルの存在。
U.S. Politics: 米国大統領選挙と米国内のラテン系コミュニティの権利。
International Affairs: スコットランド独立とベネズエラの政治。

アカウントの信憑性を高め、フォロワーを獲得しようとするために、アクターは美容やファッションに関する一般的なコンテンツも生成・投稿しました。OpenAIのDALL·E 3分類器は、これらの美容投稿に使用された画像がOpenAIサービスによって生成されたものではないことを判定しました。

影響とリーチ

コンテンツ生産の規模にもかかわらず、この作戦は有意義なオーディエンスエンゲージメントを得られませんでした。関連アカウントが停止される前に、ほとんどのソーシャルメディア投稿は低いか全くエンゲージメントがなく、長文記事がソーシャルメディア上で広く共有されたという証拠もありませんでした。