OpenAIケーススタディ：中国の法執行機関による「サイバー特別作戦」影響工作

TL;DR

OpenAIは、日本の首相に対する隠密的な影響工作の計画や、より広範な「サイバー特別作戦」キャンペーンに関する状況報告書の編集にChatGPTを利用しようとした、中国の法執行機関に関連するアカウントを停止しました。これにより、世界中の反体制派を標的とした、AIを活用したリソース集約型の取り組みが明らかになりました。

アクターと即時の対応

結論： OpenAIは、隠密的な影響工作の計画のためにモデルの支援を求めていた、中国の法執行機関関係者に関連するChatGPTアカウントを特定し、無効化しました。

ユーザーは、高市早苗首相に対するキャンペーンのガイダンスを得ようとし、定期的な作戦報告書の推敲をモデルに依頼しました。
ChatGPTは計画に関する助言の提供を拒否しました。その後、ユーザーは推敲のために報告書を提出したことから、作戦はモデルの支援なしに進行したことが示唆されます。
OpenAIの調査により、ユーザーの活動は「サイバー特別作戦」（网络特战）として知られる、中国発のより広範な影響工作に関連していることが判明しました。

作戦計画の試み

結論： ユーザーのプロンプトからは、日本の指導者の信用を失墜させるための構造化されたマルチベクター計画が明らかになりましたが、モデルは実行への協力を拒否しました。

6段階の計画：(1) ネガティブなコメントの増幅、(2) 外国人居住者による苦情の捏造、(3) 生活費に関するナラティブの悪用、(4) 極右とのつながりの告発、(5) 対米関税に対する反感の扇動、(6) 内モンゴルに関する肯定的なメッセージの拡散。
拒否された後、ユーザーは同じ5つのテーマ（内モンゴルの要素を除く）に従った状況報告書の草案を提出し、インフルエンサーへの働きかけやハッシュタグの展開といった実行の詳細を主張しました。
オープンソースによる検証の結果、2025年10月下旬からX、Pixiv、Blogspot上のエンゲージメントの低い投稿において、ユーザーの記述と一致するハッシュタグ #右翼共生者 が確認されました。

オンライン活動の影響力の低さを示す証拠

結論： 特定された投稿は作戦の戦術を示していますが、リーチは限定的であり、現実世界への影響は最小限であったことが示唆されます。

ミームや投稿のエンゲージメントは無視できるレベルでした（例：Pixivの最高閲覧数は108回、YouTube動画は5回未満）。
プラットフォーム側による削除措置により、数日間で約200件の偽アカウントが削除され、可視性がさらに制限されたと報告されています。
指標は低いものの、活動内容はユーザーが主張した戦術やタイムラインと一致しています。

プラットフォームを横断する戦術の範囲

結論： ユーザーは100種類以上の異なる戦術を列挙しており、批判者を抑圧するための包括的なプレイブックを示しています。

戦術には、ナラティブの操作、コンテンツのフラッディング、偽アカウントによる増幅、虚偽の通報、嫌がらせ、家族を標的にした攻撃、ライブ配信の乗っ取り、オフラインでの威嚇などが含まれます。
オープンソースデータを通じて検証された具体的な例：
- Spamouflageスタイルのハッシュタグキャンペーンとミームの拡散。
- 反体制派のJie Lijian氏に対する偽の死亡記事。これはVoAの報告および「Jie Lijian Funeral Committee」というタイトルのXアカウントによって裏付けられています。
- Xユーザー @huikezhen (Hui Bo) に対する組織的な悪質な通報。これにより、目に見える制限通知が適用されました。
- Blueskyにおけるなりすましキャンペーン。2024年12月5日にHui Boを模倣した5つのアカウントが作成されました。
ユーザーの報告書にはオフラインでの威嚇（逮捕、雇用主への虚偽の告発、ポスターキャンペーンなど）についても言及されていましたが、OpenAIはこれを独自に検証することはできません。

ローカル環境で展開されたAIモデルの使用

結論： この作戦では、監視、翻訳、コンテンツ作成のために、オープンウェイトの中国製AIモデルが活用されていたと報告されています。

引用されたモデル：DeepSeek-R1、Qwen 2.5、およびコンピュータビジョンモデルの YOLOv8。
OpenAIの過去の脅威インテリジェンス報告（2025年2月、2025年10月）では、同様の中国系ユーザーがソーシャルメディアの監視やフィッシングにオープンウェイトモデルを使用していることが記録されています。
開示された作戦において特定のモデルが使用されたことを直接証明する証拠はありませんが、その主張は既知のパターンと一致しています。

規模と人員に関する主張

結論： ユーザーの内部報告書は、数百人のオペレーターと数千の偽アカウントを擁する、省レベルの大規模な作戦であることを示唆しています。

ある報告書では、1つの省だけで 300人のオペレーター が存在し、他の地域にも同様のチームが存在すると主張しており、国家規模の人員配置が示唆されています。
報告された活動は 300以上の国内プラットフォーム（Weibo、WeChat）および 300の海外プラットフォーム に及び、国内で「数百万件の投稿」、海外で「数万件」に達するとされています。
ユーザーは、プロファイリング、翻訳、文書化のためにAIを体系的に統合していると主張しましたが、独立した検証は行われていません。

影響評価

結論： 一部の反体制派は嫌がらせやアカウント制限を経験しましたが、全体として測定可能なオンライン上の影響は限定的であるようです。

文書化された結果には、Hui Boのアカウント制限や、特定の標的の活動低下が含まれます。
特定された投稿のほとんどは無視できる程度のエンゲージメントしか生んでおらず、多くのハッシュタグやミームはすぐに削除されたか、本物のユーザーの目に触れることはありませんでした。
ユーザーは200以上の西洋プラットフォームで5万件以上の投稿を行ったと主張しましたが、300以上のインタラクションを獲得した投稿は約150件に過ぎず、コンバージョン率の低さを示しています。

より広範な影響

結論： この事例は、モデルレベルでの堅牢な不正検出の必要性を強調し、国家に関連するアクターが隠密的な影響工作のためにLLMを武器化しようとする方法を浮き彫りにしています。

LLMが支援を拒否した場合でも、ワークフローにモデルが存在すること（例：報告書の推敲）で、インテリジェンス分析を助ける運用文書が提供される可能性があります。
ローカルで展開されるAIモデルの統合は、脅威の範囲を商用APIを超えて拡大させており、オープンウェイトモデルの悪用に対するより広範な監視が必要です。
OpenAIによる公開開示は、研究コミュニティ、プラットフォーム運営者、政策立案者が国家主導の影響工作を追跡・対抗するための貴重なオープンソースの証拠となります。

重要なポイント： OpenAIの調査により、中国の法執行機関が運営する、AIを活用した洗練された「サイバー特別作戦」プログラムが明らかになりました。これにはオンラインでの嫌がらせ、偽アカウントによる増幅、オフラインでの威嚇が含まれますが、文書化されたキャンペーンの公に観測可能なオンライン上の影響は依然として控えめなものです。