オペレーション・ナイン—emdashライン：中国起源の影響活動の阻止

OpenAIは、中国発の秘密影響作戦に関連するChatGPTアカウントのネットワークを禁止しました。この作戦はAIを用いてクロスプラットフォームのソーシャルメディアコンテンツを生成し、東南アジア、香港、米国における政治的ナラティブに影響を与えるための偵察を実施しました。

オペレーション概要と対象ナラティブ

このネットワークは、南シナ海および西フィリピン海における中国の領土主張を支援するために、ソーシャルメディア投稿を大量生成することに注力しました。特に「九段線」境界を言及しています。作戦がAI生成テキストでエムダッシュ（—）を頻繁に使用したことから、OpenAIはこの活動を「Nine—emdash line」と名付けました。

対象となる主なナラティブは以下の通りです：

• フィリピン: 大統領フェルディナンド・マルコスを批判する投稿を生成し、薬物使用や選挙操作の虚偽の主張を含む。
• ベトナム: ベトナム—特に南シナ海における環境影響の疑いに関するコンテンツを作成。
• 香港: カントン語の投稿を作成し、ジミー・ライ、ナサン・ロウ、アグネス・チョウなどの民主化活動家や政治人物を貶め、香港国家安全法への支持を表明。
• アメリカ合衆国: フェンタニル危機を含む政治問題に関する英語コンテンツを生成。

コンテンツと偵察におけるAI活用

脅威アクターはChatGPTを単なるテキスト生成以上に利用し、研究、戦略的計画、ペルソナ開発にモデルを活用しました。

研究と偵察

オペレーターはモデルを使用して、ヨーロッパ、アメリカ、東南アジア全域のニッチなブログ、フォーラム、規制が緩やかなソーシャルメディアプラットフォームを特定しました。また、一般的なチベット系の名前リストを要求しましたが、これはOpenAIが偽のソーシャルメディアペルソナ作成手法として特定している戦術です。OpenAIは、AIを研究に利用することで利便性は向上したものの、従来の検索エンジンと比較してアクターの全体的な能力が必ずしも向上したわけではないと指摘しています。

ソーシャルメディア成長戦略

新たな応用として、ネットワークは成長戦略に関する助言を求め、TikTokチャレンジの開始方法も含めました。具体的には、既存の #MyImmigrantStory ハッシュタグを活用しようと、モデルにTikTok投稿のアイデア出しや文字起こしの生成、さらに背景音楽や画像の推奨を依頼しました。

技術的リンクと帰属

ソーシャルメディアアカウントは、長期にわたる中国発作戦「Spamouflage」と行動上の類似性を示していましたが、OpenAIは両者間の直接的な技術的リンクは特定できませんでした。ただし、「Nine—emdash line」作戦で使用された一部の動画は、オーストラリア戦略政策研究所（Australian Strategic Policy Institute）によって、以前のSpamouflage活動と類似点を持つ作戦の一部として以前に特定されていました。

影響評価

OpenAIは、この作戦をIOインパクト・ブレークアウトスケールのカテゴリ2と評価しています。これは複数のプラットフォームで活動したものの、ブレークアウト的なエンゲージメントはほとんど、あるいは全く得られなかったことを意味します。

作戦の影響は以下の要因により制限されました：

• 低エンゲージメント: ほとんどの投稿はわずかなエンゲージメントしか得られず、多くの返信や再投稿は同じ管理ネットワーク内の他のアカウントによって生成されました。
• 洗練度の欠如: ペルソナはプロフィール写真にストック画像やデフォルトのハンドルを使用し、他の中国発作戦で一般的な協調的行動特性を利用していました。
• 外部検出: Philstar.com が独自にネットワークの一部を X 上で発見・報告し、ChatGPT アカウントが禁止された後も運用が継続されました。