OpenAI、'データセンターバンドワゴン' 影響作戦を阻止

OpenAIは、米国を標的とした秘密裏の影響作戦を実施していた民間中国テクノロジー企業に関連するChatGPTアカウントのクラスターを禁止しました。これらのアクターは、ChatGPTを利用して欺瞞的なソーシャルメディアコンテンツを生成し、偽のペルソナを作成し、XやFacebookといったプラットフォームで検出を回避するための作戦戦略を策定しました。

中国系アクターと作戦手法

この影響作戦は、中国発と見られるアカウントのクラスターによって実施され、VPNを通じて地域のアクセス制限を回避して運用されました。アクターは、地方政府クライアント向けに業務を行う民間中国テクノロジー企業のソーシャルメディア作戦チームの一員と考えられ、世論誘導における中国党国家の優先事項を支える商業エコシステムと連携しています。

Key operational details include:

• ペルソナ作成: アクターは、学生、母親、事務員、投資家など様々な背景を持つアメリカ人として装い、自然な米国内ユーザーとして見せかけました。
• 言語使用: プロンプトは簡体字中国語で送信され、出力は英語と中国語の両方で要求されました。
• ワークフロー自動化: ChatGPTは、複数のソーシャルメディアプラットフォームでのログイン自動化やインタラクション管理のコード作成、さらにユーザー名抽出やワークシート用データ整形といったテキスト処理タスクに使用されました。

対象となるナラティブと影響戦術

このキャンペーンは、世論操作を目的とした異なるナラティブで二つの主要なオーディエンスを対象としました：

米国内オーディエンス

アクターは、AIアプリケーションとデータセンターが電力需要を押し上げ、一般的な米国世帯のコストを増大させていると主張する英語のコメントや画像を生成しました。これには以下が含まれます：

• 文脈化された誤情報: 電力網の容量オークションに関する正当な地域ニュースを利用し、AI主導の電力需要を電気料金上昇の原因として位置付けました。
• ビジュアル操作: ChatGPTを使用して一般的な電力市場の画像にテキストを追加し、一般市民がAIインフラを補助しているというナラティブを支援しました。
• ソーシャルメディア配信: Xにて #capacityauction、#datacentersuccess、#datacenters といったハッシュタグを使用してコンテンツを投稿しました。

海外の中国系と異議者

この作戦は、李英（Teacher Li）、呂一恒、徐池、そしてXアカウント @SydneyDaddy1 などの中国系異議者や政治評論家を嫌がらせの対象としました。アクターはChatGPTを使って李英のチームに対する侮辱的なコメントを生成しようとしましたが、OpenAIのモデルはこれらの炎上する個人攻撃の生成を拒否しました。

プラットフォーム回避と戦略的計画

アクターは、長期的なアカウントの存続とプラットフォーム検出システムの回避に関する戦略を詳細に記した作業報告書をChatGPTで洗練させました。彼らの作戦上のセキュリティは以下に焦点を当てています：

• ペルソナ開発: Facebook上で、アクターは生活や職業に関するコンテンツを用いて「リアルで信頼でき、日常的なペルソナ」を構築し、ブランドを作成した上でナラティブを拡大することを重視しました。
• オーガニックエンゲージメントのシミュレーション: 複数アカウント間の相互作用を利用して、自然なエンゲージメントを模倣し、信憑性の外観を維持しました。
• Facebookエコシステム分析: グループはFacebookのグループ、ページ、ハッシュタグ、広告ツール、レコメンデーションシステムを分析し、オーガニックエンゲージメントと有料Facebook広告を組み合わせた「デュアルトラックアプローチ」を実装しました。
• リスク軽減: バックアップアカウントを作成し、作戦活動を分離することで、プラットフォームのセキュリティシステムによる協調行動の検出を回避しました。