OpenAI Operation Zero Zeno: イスラエル関連の影響活動

OpenAIは、イスラエル拠点の政治キャンペーン管理会社STOICが運営するアカウントネットワークを禁止し、"Zero Zeno"と呼ばれる影響作戦を撹乱した。このネットワークはOpenAIモデルを使用して、カナダ、米国、イスラエル、インドのオーディエンスを対象としたマルチプラットフォームキャンペーン向けにコンテンツを生成・編集し、ガーナでの活動準備も行っていた。

AI駆動型コンテンツ生成とペルソナ構築

STOICはOpenAIモデルを利用して、ウェブ記事、ソーシャルメディアコメント、架空のペルソナの作成を自動化した。作戦の技術的アプローチは以下を含む:

• コンテンツ作成: X、Facebook、Instagram、YouTube上でウェブ記事やソーシャルメディアの返信を生成する。
• ペルソナ開発: 年齢、性別、所在地などの変数に基づいて架空のバイオやペルソナを作成する。
• リサーチ試行: モデルを使用して、イスラエルでHistadrut労働組合に公開コメントした個人を調査した。OpenAIは、これらのプロンプトに対しモデルが個人情報の提供を拒否したことを指摘した。
• ビジュアルアイデンティティ: 生成的敵対ネットワーク（GAN）を利用してプロフィール画像を作成。OpenAIは、複数のアカウントが同じGAN生成画像を共有することが多く、場合によっては同一画像のアカウントが同じ投稿に返信していることを観察した。

範囲とトピック別キャンペーン

Operation Zero Zenoは、異なる地域とナラティブを対象としたいくつかのトピッククラスターに組織された:

• ガザと宗教関係: ほとんどのキャンペーンはガザ紛争とユダヤ教とイスラム教の関係に焦点を当てた。
• カナダ: キャンペーンはカナダにおける「過激派イスラム教徒」と称する対象を批判したコンテンツ。
• アメリカ合衆国: 大学に焦点を当て、親パレスチナの抗議者がテロと反ユダヤ主義を助長していると非難した。
• カタール: カタールの米国への投資をアメリカの生活様式への脅威として描写したストーリー。
• イスラエル: ヘブライ語の投稿でHistadrut労働組合の指導力と組織を称賛した。
• インド: 5月にネットワークは与党BJPを批判し、野党Congressを称賛するコメントを生成した。OpenAIは開始から24時間以内にこの特定の活動を阻止した。
• UNRWA: 初期のリサーチで、パレスチナの国連救援機関を批判するネットワークが特定された。

配信戦略と戦術

ネットワークは可視性を維持し、エンゲージメントをシミュレートするために複数の戦術を採用した:

• クロスプラットフォーム展開: コンテンツは、活動家グループを装った4つのウェブサイト（uc4canada.com、the-good-samaritan.com、ufnews.io、nonagenda.com）に投稿された。
• 人工的増幅: 偽アカウントを使用して、オペレーション自身の投稿にコメントし、観客のエンゲージメントがあるように見せかけた。
• トピック切替: 一部のアカウントは、異なる地域のキャンペーン間で焦点を切り替えた（例：カナダ中心のコンテンツからインドや米国へ）。
• 無関係なエンゲージメント: ネットワークは、元の投稿と無関係な著名な西側人物へのAI生成返信を投稿した。例として、ドナルド・トランプの音楽嗜好に関する投稿に対し、カタール投資について返信した。

影響評価

Operation Zero ZenoはBreakout Scaleのカテゴリ2オペレーションに分類され、複数のプラットフォームやウェブサイトで活動したものの、自然ユーザーによる大幅な拡散には至らなかったことを意味する。OpenAIの報告によれば、この活動は自らの不正アカウント以外からほとんどエンゲージメントを得なかった。例として、カナダキャンペーンに関連するYouTubeチャンネルは1本の動画を投稿したが、2024年4月25日現在、視聴回数はゼロであった。