OpenAIがイランの影響作戦 Storm-2035 を阻止

OpenAIは、ステルス的なイランの影響作戦である Storm-2035 に関連する ChatGPT アカウントのクラスターを特定し、禁止しました。この措置は、2024 年選挙サイクルにおいて AI 生成コンテンツを通じた世論操作や政治的結果への影響を防止するために取られました。

Operation Storm-2035 の能力と戦術

Storm-2035 は、複数のプラットフォームでコンテンツを作成するために ChatGPT を二つの主要な作業フローで活用しました:

• Long-form Content: 同作戦は米国政治や世界情勢に関する記事を作成し、進歩的なニュースサイトと保守的なニュースサイトを装った 5 つのウェブサイトで公開しました。
• Short-form Content: 同作戦は英語とスペイン語で短いソーシャルメディアコメントを生成しました。これには、他のユーザーが投稿した既存のコメントを AI に書き換えさせ、自然に溶け込ませることも含まれます。

信憑性の外観を保つために、関係者は政治的メッセージとファッションや美容に関する非政治的コンテンツを交互に配置しました。

ターゲットトピックと地理的焦点

Storm-2035 は、いくつかの重要な地政学的・社会的課題にコンテンツ生成を集中させ、政治スペクトルの両側を対象としました:

• 米国大統領選挙: 進歩的視点と保守的視点の両方から候補者に関するコメント。
• 世界的紛争: ガザ紛争とオリンピックにおけるイスラエルの存在。
• 地域政治: ベネズエラの政治、スコットランド独立、米国におけるラテン系コミュニティの権利（英語とスペイン語の両方で制作）。

影響評価とエンゲージメント指標

作戦規模にもかかわらず、活動は有意義なオーディエンスエンゲージメントを達成できませんでした。Brookings Breakout Scale の影響評価（1 が最低、6 が最高）を用いて、OpenAI はこの作戦をカテゴリ 2 の低側に位置付けました。これは、複数プラットフォームで活動は行われたものの、実際の人々が広くコンテンツを共有したり取り上げたりした証拠がないことを示しています。

特定されたソーシャルメディア投稿のほとんどは、いいね、シェア、コメントがほとんど、あるいは全くありませんでした。また、ウェブ記事もソーシャルメディア上で広く共有されていませんでした。

緩和策と業界協力

OpenAI は関与したアカウントを禁止し、さらなるポリシー違反を監視し続けています。類似の活動を阻止するために、OpenAI は政府、選挙キャンペーン、業界関係者と脅威インテリジェンスを共有しました。この調査は、Microsoft が以前に公開した情報によって支援されました。

OpenAI は、独自の AI モデルを活用して濫用の検出と理解を強化し、規模の大きい隠れた影響作戦を発見・緩和するために、業界、市民社会、政府と協力し続けることを約束しています。