OpenAIがSTORM-2035再犯型インフルエンス作戦を阻止

OpenAIは、イランと関係がある可能性が高い再犯型インフルエンス作戦であるSTORM-2035に関連するアカウントを禁止しました。この作戦は、ChatGPTを使用して短く多言語のコメントを生成し、X（旧Twitter）の偽アカウントを通じて配信し、対象国の世論に影響を与えることを目的としていました。

作戦のメカニズムとアクターの行動

STORM-2035は、ペルシャ語で書かれたプロンプトに基づき、ChatGPTを利用してツイートの小バッチ（通常は一度に約12件）を生成しました。アクターは出力を英語またはスペイン語で要求し、これらは米国、英国、アイルランド、ベネズエラの居住者を装ったアカウントによって投稿されました。

偽アカウントの主な特徴は次のとおりです：

• アカウント活動: これらのアカウントは本作戦で生成されたコンテンツのみを投稿していました。
• フォロワー指標: 各アカウントは、フォロワー数よりもはるかに多くのユーザーをフォローしていました。
• ビジュアルアイデンティティ: 多くのプロフィールは、顔が電話や他の物で隠された若い女性の画像を使用しており、一部の画像はPinterestからコピーされたものと思われます。

昨年8月にこのアクターが最初に阻止された際と比較すると、再犯型オペレーターは作業フローを分離しようとする戦略のシフトを示しました。元の活動はX、Instagram、さまざまなウェブサイトにまたがっていましたが、今回の再犯型活動はXに限定されていました。

コンテンツテーマと対象デモグラフィック

作戦は地政学的・社会的トピックの幅広い範囲にわたるコンテンツを生成し、言語ごとに特定の対象地域に合わせて調整されました：

• ラティーノの権利: 米国を対象としたスペイン語コメントで、包括性に焦点を当て、排除の政治や特定の政治人物を批判します。
• イランの軍事力: スペイン語コメントで、イランの軍事力を米国が交渉に応じざるを得ないきっかけとして描写します。
• ベネズエラとキューバ: スペイン語コメントで、キューバの医療輸出と米国の軍事輸出を対比し、ニコラス・マドゥロ大統領について論じます。
• スコットランド独立と英国批判: 英語コメントで英国を対象とします。
• アイルランド再統一: 英語コメントでアイルランドを対象とします。
• パレスチナの権利: 英語とスペイン語の両方で生成されたコメントです。

OpenAIは、通常はスコットランド（英語）に焦点を当てていたアカウントが、パレスチナの権利に関するスペイン語の投稿に切り替えたという、オペレーターのエラーの可能性がある事例を指摘しました。

影響評価

このインフルエンス作戦のリーチとエンゲージメントは最小限でした。STORM-2035が生成した典型的なツイートは150〜350回の閲覧数で、いいね、シェア、コメントはゼロでした。

OpenAIは、実際のユーザーがこのコンテンツを拡散した証拠は見つかりませんでした。ブルッキングス研究所のBreakout Scaleを用いてインフルエンス作戦を測定した結果、OpenAIはこの活動を カテゴリ1 と分類しました：プラットフォームが1つに限定され、実際の人々がコンテンツを拾い上げたり広く共有したという証拠がほとんどない活動です。