OpenAI、Operation A2Zの多言語影響活動を阻止

OpenAIは、APIを使用して多言語影響作戦「Operation A2Z」を実行していたアカウント群を停止しました。この作戦はAIを活用して偽のペルソナを管理し、X と Facebook 上で政治的コンテンツを生成していました。

AI駆動のペルソナ管理とコンテンツ生成

Operation A2ZはAIを利用して影響活動の「キルチェーン」の複数段階を自動化し、少数のオペレーターがXとFacebook上の約150の特定アカウントを管理できるようにしました。AIは以下の具体的なタスクに使用されました：

• ペルソナ開発: 偽アカウントの信頼性を確立するためにバイオ（プロフィール）を生成する。
• コンテンツ作成: 複数言語で短いコメントや返信を作成する。
• uma校正: 生成されたテキストを流暢さと信憑性を高めるように校正する。
• エンゲージメント分析: 既存の投稿やコメントを分析し、応答をカスタマイズする。
• ビジュアルコンテンツ: スタイライズされた画像を作成し、しばしば1930年代のポスターに似せ、欺くのではなく注目を集めることを目的とする。

これらのプロセスを自動化することで、オペレーションは多数の人間「トロール」チームを必要とせず、運用コストと情報漏洩リスクを削減しました。

対象テーマと政治的ナラティブ

オペレーションは幅広いトピックに焦点を当てており、商業的に運営されていた可能性が示唆されますが、いくつかの顕著な政治テーマが浮かび上がりました：

アゼルバイジャン支援

最も頻繁に行われた活動はアゼルバイジャン政府を称賛することでした。これには、アゼルバイジャンがヨーロッパへのエネルギー供給国としての役割を促進し、人権記録を擁護し、国連気候変動会議の開催や中央アジアの統一を促進する役割を強調することが含まれます。

地域および世界の安定

• アラブ首長国連邦: 一部のアカウントはUAEを安定した投資先として描写し、しばしば米国の政治的不安定性の主張と対比させました。
• 欧州および米国の政治: オペレーションは地域に応じて異なるイデオロギーを展開しました。例えば、いくつかのXアカウントはリベラルを装い、元米大統領トランプを批判し、フランス語のFacebookアカウントはマクロン大統領を批判し、国民連合（RN）党を支持しました。
• 国際介入: 一部のコンテンツは、西側諸国は国際紛争に介入するよりも国内問題に焦点を当てるべきだと主張し、特にロシアのウクライナ侵攻を例に挙げました。

一般的な関心トピック

政治以外にも、オペレーションは金融市場、暗号通貨、環境問題、AIの進化、一般的な技術に関するコンテンツを生成しました。

影響評価と脆弱性

OpenAIはBreakout Scaleを用いてOperation A2Zの影響を評価し、カテゴリ2の上限（1〜6のスケール）に位置付け、カテゴリ3へ移行するリスクがあると評価しました。この評価は、複数プラットフォームで投稿し、実際のユーザーと会話に参加できるオペレーションの能力に基づいています。

エンゲージメント指標

活動量は多いものの、オペレーションのリーチは限定的でした：

• フォロワー: 特定された最大のXアカウントは222人のフォロワーを持ち、ほとんどは15〜25人でした。
• エンゲージメント: X上の典型的な投稿は一桁のエンゲージメントしか得られませんでした。Facebook投稿での最高リアクション数は36で、ほとんどは0〜5でした。

「AI脆弱性」パラドックス

OpenAIは、AIが影響オペレーターの能力を高める一方で、重大な脆弱性も生み出すと指摘しています。Operation A2Zはほぼすべての段階でAIに依存していたため、APIアクセスを禁止することでキルチェーンの複数のリンクが同時に断たれました。

6月初旬の阻止後、特定されたアカウントはEU、英国、フランスの主要選挙期間中の投稿を停止しました。8月下旬に他のAIモデルを使用して投稿を再開したものの、元の規模と効率は大幅に低下しました。