OpenAI、ルワンダ選挙の政治コメントネットワークを撹乱

OpenAIは、ルワンダ発のChatGPTアカウント群を禁止しました。これらのアカウントは、同国の選挙前に党派的ツイートを生成するために使用されていました。この撹乱により、ソーシャルメディアのトレンドを操作することを目的とした政治メッセージの自動生成にAI生成コンテンツの使用が防がれます。

ネットワークの関係者と起源

OpenAIは、ルワンダの個人に紐づくアカウントを特定し、禁止しました。この調査は、クレムソン大学の研究者によって公開された報告を受けて開始されました。

運用行動と戦術

このネットワークは、ハッシュタグを含むことが多い短いコメントのバッチを生成し、X上で配信することに注力していました。運用は以下のような主要な行動を示しました：

• 大量投稿: 一部のアカウントは1時間に数百件のツイートを投稿しました。
• 協調: 同じツイートが複数の異なるアカウントによって同時に頻繁に投稿されました。
• 持続性: 初期の撹乱後も、同様のコンテンツを生成し続ける新規作成アカウントをOpenAIが特定し、禁止しました。

コンテンツ戦略と語彙パターン

この運用は「テーマとバリエーション」アプローチを用いてコンテンツを生成し、ルワンダ愛国戦線（RPF）党が国にもたらした利益に焦点を当てました。

主な指標

• ハッシュタグ: ネットワークは主に #RPFOnTop、#PKNiWowe、#ToraKagame24 のハッシュタグを使用しました。
• 多言語対応: ほとんどのコメントは英語でしたが、ネットワークはフランス語とキニャルワンダ語でもコンテンツを生成しました。
• パターン認識: ネットワークが特定のテーマに関して膨大な量のコメントを生成したため、投稿は類似した語句や構造を示しました。OpenAIは、特定のテーマに関する短文では利用可能な同義語や構造が限られるため、大量のAI生成がしばしば「家族的類似性」を生み出し、活動を露呈させるのに役立つと指摘しています。

影響評価

何千件ものツイートを投稿したにもかかわらず、ネットワークの実際のエンゲージメントは極めて低かったです。ほとんどの投稿は1桁の返信、いいね、シェアしか得られず、多くは全く得られませんでした。

OpenAIは、この大規模かつ低エンゲージメントの組み合わせをコメントスパムネットワークの典型と位置付けています。主な目的は、ルワンダのX上で特定のハッシュタグをトレンドにし、ネットワークのアカウントをフォローしていないユーザーにリーチすることだったと考えられます。いくつかのハッシュタグはルワンダのXでトップ10トレンドに達しましたが、これらのハッシュタグを使用したのはネットワークのアカウントだけではありませんでした。