OpenAI Silver Lining Playbook: 中国発の米国人を標的とした活動

TL;DR

OpenAIは、中国本土から運用されていたと見られる少数のChatGPTアカウントを特定し、利用停止措置を講じました。これらのアカウントは、モデルを使用して米国人の情報を収集し、説得力のあるフィッシング形式のメール草案を作成していました。これは、AIを活用した外国諜報機関によるリクルート活動という具体的な脅威を示すものです。

アクターの特定

  • 発信元: アカウントは簡体字中国語でモデルにプロンプトを入力しており、中国本土の営業時間中に活動し、VPN経由でプラットフォームにアクセスしていたことから、中国本土からの運用であることが示唆されます。
  • 偽のフロント: メールは「Nimbus Hub Consulting」という香港を拠点とする企業を装って作成されていました。しかし、繁体字ではなく簡体字が使用されていたことから、運用者は香港を拠点としていないことが示唆されました。
  • 命名: OpenAIは、この作戦を「Nimbus」（雨雲や光輪）という社名にちなんで「Silver Lining Playbook」と名付けました。
  • 証拠: Nimbus Hub Consultingに関連付けられたLinkedInプロフィールのスクリーンショットは、同社の公開されている「Our Team」ページに記載されている人物と一致していました。

Nimbus Hub Consultingに関連するLinkedInプロフィールのスクリーンショット。

行動パターン

  • メール草案の作成: アカウントはChatGPTに対し、米国の州レベルの職員や政策アナリスト宛ての簡潔でプロフェッショナルな英語のメールを作成するよう依頼し、地政学や政策に関する有償コンサルティングとして接触を図っていました。
  • ソーシャルエンジニアリングの構造:
    1. 正当性の確立 – ウェブサイトのリンクを提示し、「Nimbus Hub」を権威あるコンサルティング会社として見せる。
    2. パーソナライズと称賛 – ターゲットの公共部門での経歴を引用し、時にはLinkedInのスクリーンショットをアップロードして詳細な情報を盛り込む。
    3. インセンティブの提示 – 具体的な業務内容は曖昧にしたまま、高額な成果報酬を約束する。
    4. リスクの低減 – 役割を気楽で機密性が高く、確実に報酬が支払われるものとして説明する。
    5. プラットフォーム外への誘導 – ビデオ通話のためにWhatsApp、Zoom、またはTeamsへ会話を移行させる。
  • 情報収集: アカウントはモデルに対して以下を問い合わせていました:
    • 米国連邦政府機関の所在地および連邦機関が集中している州のランキングリスト。
    • 州別の米国連邦政府職員の分布。
    • 米国人（例：Voice of Americaのホスト）の公開プロフィールと彼らのインタビューのトピック。
    • 米国の人気のある経済・金融専門フォーラムおよび求職サイト。
  • マルウェア・ツールに関するガイダンス: あるアカウントは、顔交換ソフトウェアである FaceFusion の非技術的なインストール手順をステップバイステップで要求し、ハードウェアスペックのスクリーンショットを提供しました。モデルは公開されているドキュメントを回答しました。

完了の詳細

  • メール草案は、既知の外国諜報機関によるソーシャルエンジニアリングのプレイブック（FBIの参照資料を参照）に従っていました。各草案は、正当性、パーソナライズ、インセンティブの提示、リスク軽減の文言、およびプラットフォーム外への迅速な移行を組み合わせていました。
  • アーカイブされたNimbus Hub Consultingのホームページのスクリーンショットが、捏造された正当性の一部として含まれていました。

アーカイブされたNimbus Hub Consultingのウェブサイトホームページのスクリーンショット。

影響評価

  • 技術的洗練度: インタラクションは高度に洗練されたものではなく、一般的なリクルート活動や基本的なソフトウェアインストールの問い合わせに似ていました。
  • 戦略的意図: 捏造された企業アイデンティティの使用と地政学的トピックへの焦点は、敵対的なリクルートの動機を示唆しています。
  • 結果は不明: OpenAIは、作成されたメールが実際に送信された証拠や、ターゲットが応答した証拠を発見していません。
  • より広い文脈: 米国、英国、およびオーストラリアの諜報機関は、外国の機関が政府職員や元職員をリクルートするためにコンサルティング会社を装うことが頻繁にあると警告しています。本物の採用とこうした隠密なアプローチを見分けるには、検証可能な雇用主の詳細、現実的な報酬、および透明性の高い求人情報が鍵となります。

防御側の教訓

  • 過度に高額、緊急、または曖昧なコンサルティングの勧誘は疑ってかかること。
  • 独立した情報源を通じて雇用主の正当性を確認すること。正当な企業は、明確な役割の説明、信頼できるウェブサイト、および検証可能な求人情報を提供します。
  • 非ネイティブ言語のプロンプト、VPNアクセス、公務員に関する個人情報の繰り返し要求など、AIプラットフォームの使用パターンを監視すること。
  • 正当性、パーソナライズ、インセンティブの提示を組み合わせたソーシャルエンジニアリングのテンプレートを自動的に検出する仕組みを導入すること。

この事例研究は、OpenAIの2026年2月のレポート「Disrupting Malicious Uses of AI（AIの悪用を阻止する）」に基づいています。

Sources