OpenAI が AI を活用した偽の前線影響操作を阻止

OpenAI は、ロシアおよびイランから発信された2つの高度な影響操作（IO）を阻止した。これらの操作では、AI を使って「偽の前線」組織を構築していた。これらの活動は単なるソーシャルメディアのボット運用を越え、偽のジャーナリスト像や架空のシンクタンクを創出し、主流メディアに地政学的メッセージを植え付けることに成功した。

偽の前線操作における AI の役割

脅威関係者は、AI を使って誤解を招くキャンペーンの規模、効率性、言語の流暢さ、編集品質を向上させている。AI は従来の影響戦術を置き換えるものではなく、ワークフローを最適化するツールとして使われており、たとえば、特定の出版基準に適合するように長文記事を精査したり、内部の業績報告書を起草したりするのに使われている。

OpenAI は、これらの操作は AI 以前の時代の影響キャンペーンに非常に似ているが、AI を使って無自覚な編集者や従業員を巧みに利用することで、その出典の動機に気づかない観客の前にコンテンツを植え付けるのが容易になっていると指摘している。

オペレーション「ダーク・クラーク」：ラテンアメリカにおけるロシアの影響

OpenAI は、ラテンアメリカ諸国を標的にしたロシア発のアカウント群を禁止した。特に、ウクライナの評判を貶め、アルゼンチン、ボリビア、エクアドルでの政治的結果に影響を及ぼすことを目的としていた。

ソーシャルリサーチセンター（SRC）の前線

この操作で最も複雑な要素は、ラテンアメリカのインド系ディアスポラに焦点を当てた架空の「研究プラットフォーム」としてのソーシャルリサーチセンター（SRC）の創設であった。ロシアの操作者は、架空の人物「Mia Clark」として SRC を管理していた。

重要な点は、ロシアの操作者がラテンアメリカの無自覚な現地従業員を巻き込み、彼らが正当な組織で働いていると信じ込ませたことだ。これらの従業員がオリジナルの研究を生み出し、ロシアの操作者がその成果をもとに持続可能な前線のアイデンティティを構築した。これは、従来の操作が主に盗用されたコンテンツに依存していたのとは異なる。

戦術的実行と影響

操作者は主に ChatGPT を内部報告用に使用し、時折偽物を作成するために利用していた。主な活動には以下のものがある：

架空のイベント： ペルーの学校を騙して、議論を呼ぶ人物を招くイベントを開催し、ウクライナとポーランドの間で外交的緊張を引き起こす。
架空の文書と音声： エクアドルのウクライナ領事の架空の音声と、エクアドル政府が市民をウクライナで戦わせるために人材を募集していると示唆する架空の契約書を作成。
内部の欺瞞： フォークランド諸島／マルビナス諸島の紛争など、既存の政治的議論やニュースイベントを自分の功績として装い、自身の雇用主に効果を誇張しようとした。

OpenAI は、この操作をブレイクアウトスケールで カテゴリ5 と評価している。これは、公式政府の否定や政治家の公的発言を引き起こす能力があるためであり、OpenAI が阻止した初めてのカテゴリ5の操作である。

オペレーション「ボーグス・バイラインズ」：イランの影響キャンペーン

OpenAI は、AI を使ってオンラインニュースサイトに長文記事を偽の著者名で掲載するイランの操作を阻止した。

ジャーナリスト像戦略

この操作では、「Ervin B. Hoskins」や「Sophia Gonzalez」など7人の架空の西欧ジャーナリスト像を用いて、中小規模のオンラインメディアに記事を提案していた。関係者は ChatGPT を使って：

特定のメディアの提出基準に合うように英語の原稿をレビュー・精査。
編集者向けのプロフェッショナルなピッチメールを生成。
架空の人物像用の詳細な経歴を書いた。

OpenAI は、12の出版物にわたり、ほぼ100本の記事がこれらの著者名で掲載されていることを特定した。主なテーマは米国とイランの対立であり、米国を攻撃的な存在として描いていた。

ソーシャルメディアの拡散

記事とともに、英語およびペルシャ語で書かれた多数のソーシャルメディアのコメントを生成し、自身の記事を称賛したり、イラン政権の批判者を攻撃したりしていた。しかし、これらのコメントは一般的に低いエンゲージメントにとどまった。

影響評価

OpenAI はブレイクアウトスケールを用いて二段階評価を行った：

ジャーナリスト像： 複数のメディアに継続的に露出しており、数百万のフォロワーを持つものも含まれるため、カテゴリ4 と評価。
ソーシャルメディアの返信： エンゲージメントが低く、会話の主導権を握れないため、カテゴリ2 と評価。

影響操作の影響範囲の要約

過去2年半で OpenAI が暴露した30件の隠蔽された影響操作の分析から明らかなパターンがある：実際に本物のメディアにコンテンツが掲載された操作は、単に偽のソーシャルメディア配信に依存する操作よりも、はるかに高い到達率と影響力を持つ。