OpenAIが中国系影響作戦「Spamouflage」を阻止

OpenAIは、Metaが中国の法執行機関に関係する個人に帰属するとし、FBIが中国公安部のユニットに帰属するとする、中国発の影響作戦「Spamouflage」に関連する少数のアカウントを禁止しました。この措置により、AIモデルを利用して中国系ディアスポラや中国政府批判者を対象とした世界的な影響キャンペーンを支援していたネットワークが妨害されます。

アクターの帰属とターゲティング

Spamouflageネットワークは世界のオーディエンスを対象とし、特に中国系ディアスポラのメンバーと中国政府の批判者に焦点を当てました。この作戦は主に中国語でコンテンツを生成し、英語、日本語、韓国語でも出力しました。

OpenAIによると、ネットワークの活動は中国国内の組織に帰属し、特に法執行機関と公安部と具体的に結びついているとされています。

AIの活用と行動パターン

ネットワークはOpenAIのモデルをコードデバッグからコンテンツ生成まで、さまざまな技術的・戦略的目的で使用しました。特定された行動は以下の通りです：

• Technical Support: 2023年、ネットワークはrevealscum.comというウェブサイトのWordPressテーマのコードをデバッグするためにモデルを使用しました。このサイトは中国系ディアスポラのメンバーに関する個人情報や批判を公開するために利用されました。
• Content Generation: 作戦は記事やソーシャルメディアのコメントを生成しました。例として、福島原子力発電所の汚水放出により日本が海洋環境を損なっていると非難する記事や、異議者蔡霞を批判する英語のコメントがあります。
• Open-Source Research: ネットワークはAIを用いてソーシャルメディア開発者アカウントの申請方法を調査し、中国政府の批判者が書いたソーシャルメディア投稿を要約しました。
• Operational Support: 一部のオペレーターはカメラレンズの調査や中国共産党員のテスト課題の完了など、個人的な関心のためにモデルを使用しました。

OpenAIは、AI生成コンテンツはネットワーク全体の出力のごく一部に過ぎないと指摘しました。特定された多くのアカウントは、AI生成テキストの使用前後にかかわらず、非慣用的な英語が特徴的な手作業で作成されたコンテンツを大量に投稿していました。

コンテンツのテーマとナラティブ

キャンペーンのコンテンツは言語と対象オーディエンスで分けられました：

• Chinese Language Content: トピックは、中国政府による国際的な法執行協力の称賛や、米国におけるネイティブ・アメリカンへの虐待の批判を含みました。また、一部のコンテンツは米国政府とMicrosoftが「Volt Typhoon」ハッキンググループを暴露したことを批判しています。
• English Language Content: このコンテンツは主に、中国政府の著名な批判者、例えばチベット活動家リチャード・ギアや異議者蔡霞を対象としています。
• Multilingual Content: 英語、日本語、中国語、韓国語、ロシア語での記事は、福島原子力発電所の排出により日本が太平洋の海水を汚染していると非難しています。
• Specific Diplomatic Themes: 中国公安部長官のウズベキスタン訪問に関する肯定的なコメントに焦点を当てた活動のクラスターがあります。

影響評価

ネットワークの規模にもかかわらず、OpenAIはこの特定の作戦の影響は低いと評価しています。Breakout Scaleのカテゴリ2（1〜6のスケール）を使用すると、この作戦は多数のプラットフォームで投稿活動が見られたものの、実在するユーザーによる大きな拡散はありませんでした。

OpenAIは、特定されたブログ、記事、ソーシャルメディアアカウントのいずれも実際の人々からの高いエンゲージメントやフォローを得ていないと報告しました。場合によっては、投稿の閲覧数はOpenAI自身の調査チームからのみ記録されました。