OpenAI オペレーション ピアレビュー：AI支援監視計画の阻止

OpenAI は、中国発とみられる「Operation Peer Review」クラスターの ChatGPT アカウントを停止しました。これらのアカウントは監視計画、政治調査、ソーシャルメディア監視ツールの開発に AI を利用していたと考えられます。この措置により、AI を能力開発や内部分析に利用するネットワークが阻止され、大規模な公共影響作戦ではなく内部的な利用に留まっていたことが明らかになりました。

ネットワークの特定と行動パターン

「Peer Review」ネットワークは、主に中国本土の営業時間に合わせた行動パターンを示し、中国語でのプロンプトを使用していた ChatGPT アカウントで構成されていました。OpenAI は、活動の量と多様性が自動化された API の使用ではなく、手動でのプロンプト入力に一致していると指摘しています。少なくとも一例では、単一のアカウントが複数のオペレーターによって共有されていた痕跡が見られました。

主な作業ストリーム

このクラスターのオペレーターは、以下の 4 つの主要カテゴリの活動に従事していました：

政治・政府調査

ネットワークは ChatGPT を基本的な調査ツールとして利用し、米国のシンクタンクや米国、オーストラリア、カンボジアの政治家・政府関係者に関する公開情報を収集していました。

文書の分析と翻訳

オペレーターはモデルを用いて英語文書のスクリーンショットを読み取り、翻訳し、分析していました。対象文書には、西欧諸都市でのウイグル人権デモに関する告知（ソーシャルメディアから取得された可能性あり）や、インド太平洋地域の外交・政府関連トピックに関する資料が含まれていました。OpenAI は、これら文書の真偽や取得経路を判断する十分な証拠がないと述べています。

影響力行使のためのコンテンツ生成

関係者は米国の政策・政治、そして中国の異議団体（特に法輪功）に関する短〜中程度のコメントを生成していました。一部のプロンプトでは、モデルに英語話者の「Thompson」という人物になりきるよう指示していましたが、OpenAI はこれらのコメントが実際にオンラインに投稿された形跡を確認できませんでした。

監視ツールの開発

ネットワークは ChatGPT を利用してコードの編集・デバッグを行い、AI 搭載のソーシャルメディアリスニングツール「Qianyue Overseas Public Opinion AI Assistant」（千阅境外舆情AI助手）のプロモーション素材を生成していました。

ツールの説明（OpenAI が独自に検証できなかった）によれば、同アシスタントは次の機能を持つとされています：

• X、Facebook、YouTube、Instagram、Telegram、Reddit などのプラットフォームから投稿やコメントを取得・分析する。
• 中国の政治・社会トピック、特に中国国内での人権デモへの参加呼びかけに関するソーシャルメディア上の会話を特定する。
• 取得したインサイトを中国当局（米国・ドイツ・英国でのデモを監視する情報機関や海外の中国大使館）に提供する。

技術的実装とモデルの使用

ネットワークは開発・改良の段階で ChatGPT を使用していましたが、監視ツール自体の実行は OpenAI のモデルで動作していないようです。ネットワークがデバッグしたコードは、分析・生成エンジンとして Meta の Llama 3.1 8B（Ollama 経由）を頻繁に参照していました。

さらに、ネットワークはマルウェア解析用のコードをデバッグし、Alibaba Cloud の Qwen や未特定の DeepSeek モデルなど、他のモデルも参照していました。あるオペレーターは業績評価で、中国の顧客向けにフィッシングメールを生成したと主張していますが、OpenAI はこのメール活動が AI によって支援された証拠を見つけられませんでした。

影響評価

OpenAI の報告によれば、活動の大半はコードデバッグや画像解析といった内部能力開発に向けられており、公開配布は行われていませんでした。一部のコンテンツはソーシャルメディアコメントに似ていましたが、これらが実際にオンラインに投稿された証拠は見つかりませんでした。OpenAI は、この作戦の全体的な影響を評価するには、ネットワークが使用したオープンソースモデルの運営者など、他のステークホルダーとの協力が必要であると指摘しています。