OpenAIが「Bad Grammar」ロシア系影響作戦を阻止
OpenAIは、ロシアの個人と関連するアカウントネットワークを禁止しました。このネットワークは、AIモデルを使用して政治的コメントの生成を自動化し、Telegramで配信していました。この作戦は、文法的に誤った英語を繰り返し使用し、オーディエンスの構築が困難だったことから「Bad Grammar」と呼ばれ、生成AIを利用して影響作戦（IO）を拡大しようとする試みを表しています。
コメントスパムの技術パイプライン
「Bad Grammar」ネットワークは、AIモデルの使用と自動化ツールを統合したコメントスパムのパイプラインを構築しました。プロセスは主に以下の3段階で構成されます。
- コードデバッグ：オペレーターは、Telegramでの投稿プロセスを自動化するために設計されたコードのデバッグにOpenAIモデルを使用しました。
- コンテンツ生成：モデルはロシア語と英語の両方でコメントを生成するために使用され、特定のターゲット投稿への返信に合わせて調整されました。
- 配信：ネットワークは少なくとも12個のTelegramアカウントを利用して生成されたコンテンツを投稿しました。
対象オーディエンスとペルソナ開発
ネットワークはロシア、ウクライナ、アメリカ、モルドバ、バルト三国のオーディエンスを対象としました。コンテンツ生成のアプローチは言語ごとに異なります。
- 英語コンテンツ：オペレーターは、米国内のさまざまな人口層や政治的スペクトラムを表す偽のペルソナを作成し、多様な国内の視点をシミュレートしました。
- ロシア語コンテンツ：指示はテーマ的であり、特定のペルソナに焦点を当てることは少なかったです。
活動は少数のTelegramチャンネルに集中していました。最も言及されたチャンネルは親ロシアチャンネル @Slavyangrad で、次いで @police_frequency と @SGTNewsNetwork（Metaが以前にイラン発と報告したチャンネル）です。
政治的テーマとコンテンツ戦略
キャンペーンは、異なる言語でいくつかの主要な政治テーマに焦点を当てました。
- ウクライナ戦争：両言語での主要なトピックです。
- 地域の安定：モルドバとバルト三国の政治状況です。
- 米国政治：英語のコメントは移民、経済的困窮、時事問題に焦点を当て、米国のウクライナ支援に反対する論調でした。
- ロシア語コメント：これらはウクライナとモルドバの大統領を汚職や西側の「干渉」への裏切りで非難することに焦点を当てました。
3月22日のモスクワでのテロ攻撃を受けて、ネットワークはタジキスタンに焦点を当てた新たなTelegramアカウント群を追加し、タジク人とロシア人の団結とロシア法の尊重を呼びかけました。
影響作戦のインパクト評価
生成AIを使用したにもかかわらず、「Bad Grammar」ネットワークの実世界への影響は極めて小さかった。OpenAIは、以下の要因によりこの作戦をブレイクアウトスケールのカテゴリ1（最も低いインパクト）と評価しています。
- 低エンゲージメント：コメントへの「いいね」や返信がほとんどありませんでした。
- 限定的なリーチ：ネットワークのコメントは、各投稿への返信の中で少数派であり、他の視点を埋め尽くすことはできませんでした。
- 限定的な拡散：ネットワーク外のユーザーによる顕著な拡散の証拠はありませんでした。
さらに、OpenAIはネットワークが時折モデルを使用してプライベートメッセージを生成しており、それが暗号通貨詐欺師とのやり取りであるように見受けられたと指摘しました。