デジタル欺瞞の構造：国家衰退のAI生成ナラティブ

デジタル環境は、影響作戦において高度に進化した動きを目の当たりにしています。BBCによる最近の調査（Panorama と Top Comment ポッドキャストの報告を含む）では、王国ユナイテッドにおける国家衰退のナラティブを押し進めることを目的とした、相互に接続されたFacebookとInstagramのアカウントネットワークが明らかになりました。これらのアカウントはしばしばイギリスの愛国者を装っていますが、スリランカ、ベトナム、モルディブ、UAE など、何千マイルも離れた国々に拠点を置く個人や団体によって運営されていることが多いです。

この現象は、従来のプロパガンダから、専門家が「AI slop」と呼ぶものへの転換を示しています――アルゴリズムエンゲージメントを利用するために設計された、低品質で高インパクトなAI生成コンテンツの大量生産です。未来のディストピア的ビジョンを作り出すことで、これらのアクターは単に誤情報を拡散しているだけでなく、何百万人ものユーザーが認識する現実を積極的に形作っています。

「衰退」ナラティブのメカニズム

これらのネットワークが生成するコンテンツは、強い感情反応を引き起こすよう綿密に設計されています。一般的なテーマは以下の通りです：

Manufactured Dystopias: 2050年のイギリスの都市を汚く、混沌とし、移民に「支配」された様子で描くAI生成動画で、下院でシャリア法が施行される偽のシーンが含まれています。
Emotional Manipulation: 年金や「かつてのイギリス」に対する不安を表すAI生成の高齢者動画。
Contradictory Messaging: 興味深いことに、一部の制作者は英国の衰退を描くと同時にイスラム諸国を理想的に描写し、思考を刺激したり特定の文化的対比を作り出す戦略的試みであることが示唆されています。

これらの作戦は、元々英国で登録されたソーシャルメディアアカウントを低コストで取得できることにより、海外の偽装者が現地の国民として自然に装うことが容易になっています。

動機：利益、政治、国家アクター

ロンドン市長サディク・カーン卿とシティホールの調査によると、これらのキャンペーンの動機は二つに分かれます：金銭的利益と地政学的影響力です。

1. エンゲージメント経済

多くの場合、目的は純粋に金銭的です。ソーシャルメディアプラットフォームは、コンテンツの真偽に関係なく、エンゲージメント（いいね、シェア、コメント）を報酬として与えます。一部のアカウント運営者は、フォロワーを増やし、収益化スキームでお金を稼ぐために意図的に分裂的なコンテンツを投稿したことを認めています。ある運営者は「エンゲージメントのために反応を得る」ことが目的だと述べました。

2. 地政学的影響作戦

利益を超えて、国家支援の活動の証拠があります。サディク・カーン卿は、一部のアカウントがロシアやイランなどの敵対的国家と結びついており、公共の信頼を不安定にし、英国の国際的評価を損なうことを目的としていると指摘しました。これは「disinformation-for-hire」の広範なパターンの一部で、報酬を受け取るアクターやインフルエンサーがAIとボットを使って特定のアジェンダへの支持を作り出しています。

信念の心理学

これらのキャンペーンで最も懸念される側面の一つは、一般市民がそれらとどのように関わるかです。クイーンズ大学ベルファストのイヴォン・マクダーモット・リース教授は、人々はAI偽造を見抜く能力が一般的に低く、正確率は約55％にすぎないと指摘しています。

さらに重要なのは、コンテンツの「真実性」よりも、ユーザーの既存の世界観とどれだけ合致しているかが重視される点です。ケンブリッジ大学のサンダー・ファン・デル・リンデン教授によれば、ユーザーは自分のアイデンティティに共鳴すればAIコンテンツを支持し共有する傾向があり、より大きなアジェンダへの同意を示すことになります。これはある動画のユーザーコメントで例示されています：「おそらくAIだけど、事実は彼がすべて正しいということだ」

広範な影響

この傾向は英国に限ったものではありません。カナダでも同様のパターンが報告されており、実在する市民のAI生成コピーが反政府メッセージを拡散するために使用されています。

技術的・社会的評論家は、「algorithmic engagement economy」が本質的に恐怖と憎悪をインセンティブ化すると指摘しています。プラットフォームがユーザーのスクロールを続けさせるために強い否定的感情を引き起こすコンテンツを優先すると、海外の偽装者がAIを武器化する肥沃な土壌が生まれます。その結果、ユーザーがAIコンテンツにさらされればさらされるほど、真実の素材への不信感が高まり、事実とフィクションの区別が無意味になる一般的な認識崩壊の状態に至ります。