OpenAI、Operation VAGue Focus の影響活動を阻止

OpenAIは、ソーシャルメディアコンテンツの生成、メッセージの翻訳、ソーシャルエンジニアリングの試みを行うために使用されたChatGPTアカウントのネットワーク「Operation VAGue Focus」を阻止しました。この作戦は、AIを利用してヨーロッパまたはトルコの専門家を装ったペルソナを作成し、情報収集とオンラインディスコースへの影響を行っていました。

脅威アクターのプロファイルと帰属

OpenAIは、中国本土の業務時間帯に主に活動し、モデルに中国語でプロンプトを与えていた小規模なChatGPTアカウントネットワークを特定しました。これらのアクターは、情報収集と分析を促進するためのフロント組織を作成するためにモデルを利用していました。

これらの活動のカバーとして、以下の3つの主要な組織が使用されました：

  • Focus Lens News: 独立した欧州拠点の分析・報道機関と説明されている。
  • BrightWave Media Europe: 地政学的に焦点を当てたフロント。
  • Visionary Advisory Group (VAG): トルコに拠点を置くとされる地政学的コンサルティングサービス。

作戦の作業ストリーム

Operation VAGue Focusは、隠密活動を支援するために、4つの主要な機能領域でChatGPTを活用しました：

1. 隠密影響とペルソナ作成

アクターはモデルを使用してソーシャルメディア投稿やオンラインペルソナの経歴を生成しました。これらのペルソナは、X（旧Twitter）上でジャーナリストや地政学アナリストを装い、コンテンツを配信し信頼性を確立していました。

2. 政治的文書のやり取り

これらのアカウントは、米国上院議員宛てに行政官の指名に関する文書を洗練し翻訳するために使用されました。OpenAIは、この文書が実際に送付されたかどうかを独自に確認できないと指摘しています。

3. サイバー工具に関する問い合わせ

アクターはコンピュータネットワーク攻撃やエクスプロイトツールに関する基本的な情報をモデルに問い合わせました。OpenAIの報告によると、モデルは一般的な説明しか提供せず、質問は洗練されていなかったため、サイバー作戦における技術的専門知識が低いことが示唆されています。

4. ソーシャルエンジニアリングと情報抽出

ChatGPTは、中国語から英語へのメッセージ翻訳に使用され、未知のターゲットと交流し情報を抽出することを目的としていました。これらには以下が含まれます：

  • ソーシャルメディア上で研究者やジャーナリストへの公開返信。
  • プライベートなアプローチを目的としたダイレクトメッセージ。
  • 米国の経済・金融政策に関するインタビューに対し、時給最大2,000ドルの報酬を提供。
  • 機密文書の購入オファー。

技術的指標と情報収集

この作戦の情報収集は、ヨーロッパまたはトルコの専門家を装うことに焦点を当てていました。Visionary Advisory Group（VAG）のウェブサイトはトルコ語と英語のバージョンがありましたが、技術的なミスによりアクターの出所が明らかになりました。英語版メニューに「contact us」の中国語文字（聯絡）が表示されており、ドメイン全体で唯一の中国語テキストとなっていました。

さらに、アクターはこの作戦が機械学習、自然言語処理、そして自動データスクレイピングを用いて影響力のあるソーシャルメディアの声やトピックを特定したと主張していますが、OpenAIはこれらの主張を独自に検証できませんでした。

影響の評価

OpenAIは、この作戦の公開部分の影響は低いと評価しています。Brookings Institutionのインフルエンス作戦用ブレイクアウトスケールを使用し、活動は Category 2（Low End） に分類されます。これは、複数のプラットフォームで活動は行われたものの、実際の人々がコンテンツを広く共有したり関与したりした証拠がほとんどないことを意味します。

ほとんどの関連ソーシャルメディアアカウントは、実質的なエンゲージメントを獲得できませんでした。Focus Lens Newsに関連するアカウントは17,000人のフォロワーを持っていましたが、OpenAIはこのアカウントが2014年に作成され、10年間沈黙した後、2024年中頃に再び活動を開始したことから、侵害され再利用された可能性が高いと指摘しています。

Sources