OpenAI、ChatGPTを使用してイラン影響ネットワークを撹乱

OpenAIは、イラン系の影響作戦STORM-2035とIUVMが複数の言語とプラットフォームで親イラン・親ハマスのコンテンツを生成するために使用した5つのChatGPTアカウントを禁止しました。

STORM-2035とIUVM間の作戦的リンク

OpenAIは、単一のChatGPTアカウントがSTORM-2035とIUVMの両方のコンテンツ生成に使用されていたことを発見しました。活動規模は小さいものの、この重複は、これまで公的研究で報告されていなかった両者間の共有された作戦関係を示唆しています。

クロスプラットフォームおよび多言語コンテンツ生成

特定されたアカウントは、さまざまなウェブサイトやソーシャルメディアプラットフォーム向けに複数の言語でコンテンツを生成するために使用されました：

• STORM-2035の活動: 5つのうち4つのアカウントがSTORM-2035に関連する組織向けにコンテンツを生成しました。これには al-sarira[.]com 用の長文記事や lalinearoja[.]net 用のスペイン語記事が含まれます。
• ソーシャルメディア統合: 2つのアカウントが al-Sarira のXアカウントと他の2つのXアカウント向けにツイートを生成しました。
• IUVM統合: 1つのアカウントが critiquepolitique[.]com（STORM-2035にリンク）向けにフランス語テキストを、iuvmpress[.]co（IUVMにリンク）向けに英語記事を生成しました。

回避戦術とコンテンツテーマ

オペレーターは検出を回避し、キャンペーンのナラティブ一貫性を保つために特定の手法を利用しました：

• セマンティックリライト: あるケースでは、オペレーターがOpenAIモデルを使用して記事を生成し、公開前に言い換えました。セマンティック類似性分析により、公開版はAI生成テキストの書き換えである可能性が高いことが確認され、検出回避の意図的な試みが示唆されました。
• ナラティブの焦点: コンテンツは主にパレスチナ支持、ハマス支持、イラン支持であり、イスラエルと米国に反対していました。シリアでバッシャール・アル＝アサド政権が崩壊する際、同作戦はアサドを称賛し、その不人気を否定する内容を生成しました。
• オペレーターのプロフィール: 禁止されたアカウントの一部は、英語とスペイン語を外国語として教える教材の作成にも使用されていました。OpenAIは、これは言語教育のバックグラウンドを持つ個人に対するイラン脅威活動の過去の公的帰属と一致すると指摘しています。

影響評価

AIを使用したにもかかわらず、作戦は大きな波及効果を得られませんでした。Brookings InstitutionのBreakout Scaleを用いて、OpenAIはこの活動をカテゴリ2の低側に位置付けています。この評価は、活動が複数のプラットフォームで行われたものの、実際の人々が広く共有したり関与したりした証拠がないことを示しています。

2025年1月16日現在、al-Sarira のXアカウントはフォロワーがわずか157人で、通常のツイートのエンゲージメントは一桁にとどまっていました。