OpenAI 打击卢旺达选举政治评论网络

OpenAI 已经禁止了一批来自卢旺达的 ChatGPT 账户，这些账户被用于在该国选举前生成偏袒性的推文。此举阻止了利用 AI 生成内容来自动化制作旨在操纵社交媒体趋势的政治信息。

网络行为者及来源

OpenAI 识别并禁止了与卢旺达个人关联的账户。此调查是在克莱姆森大学研究人员发布的报告之后启动的。

操作行为与策略

该网络专注于生成一批批短评论，通常包含标签，以在 X 上分发。该操作表现出若干关键行为：

• 高频发布： 某些账户每小时发布数百条推文。
• 协同： 同一条推文常常由多个不同账户同时发布。
• 持续性： 在最初的干预之后，OpenAI 识别并禁止了继续生成类似内容的新建账户。

内容策略与语言模式

该操作采用“主题与变体”方法进行内容生成，聚焦于卢旺达爱国阵线党为国家带来的好处。

关键指标

• 标签： 该网络主要使用标签 #RPFOnTop、#PKNiWowe 和 #ToraKagame24。
• 多语言支持： 虽然大多数评论为英文，网络也生成法语和基尼亚卢旺达语内容。
• 模式识别： 由于网络在特定主题上生成了大量评论，帖子表现出相似的措辞和结构。OpenAI 指出，在特定主题的短文本中，可用的同义词和结构数量有限，这导致大规模 AI 生成常出现“家族相似性”，有助于揭露此类活动。

影响评估

尽管发布了数千条推文，该网络的实际互动却极少。大多数帖子仅收到个位数的回复、点赞或转发，甚至有许多完全没有任何互动。

OpenAI 将这种大规模低互动的组合描述为评论刷屏网络的典型特征。其主要目标似乎是让特定标签在卢旺达的 X 上成为趋势，以触及未关注该网络账户的用户。虽然部分推广的标签确实进入了卢旺达 X 的前十趋势，但该网络的账户并非唯一使用这些标签的账户。