OpenAI 打击“Bad Grammar”俄罗斯关联的影响行动
OpenAI 已经禁止了一个与俄罗斯个人关联的账户网络，该网络使用 AI 模型自动生成政治评论并在 Telegram 上分发。该行动因反复使用不合语法的英语且难以建立受众而被称为“Bad Grammar”，它代表了利用生成式 AI 扩大影响行动（IO）的尝试。
评论垃圾信息的技术流程
“Bad Grammar”网络建立了一个评论垃圾信息流程，将 AI 模型的使用与自动化工具相结合。该过程包括三个主要阶段：
- 代码调试：运营者使用 OpenAI 模型调试用于自动化 Telegram 发布过程的代码。
- 内容生成：模型被用于生成俄语和英语的评论，专门针对目标帖子进行回复。
- 分发：网络使用至少十几个 Telegram 账户发布生成的内容。
目标受众与角色设定
该网络的目标受众包括俄罗斯、乌克兰、美国、摩尔多瓦和波罗的海国家。内容生成的方式因语言而异：
- 英文内容：运营者创建了代表美国内部各种人口统计和政治光谱的虚假角色，以模拟多元的国内观点。
- 俄文内容：指令更具主题性，较少关注具体角色。
活动主要集中在少数几个 Telegram 频道。提及最多的频道是亲俄频道 @Slavyangrad，其次是 @police_frequency 和 @SGTNewsNetwork（该频道此前被 Meta 报道为源自伊朗）。
政治主题与内容策略
该活动围绕多语言的若干关键政治主题展开：
- 乌克兰战争：在两种语言中都是主要议题。
- 地区稳定：摩尔多瓦和波罗的海国家的政治局势。
- 美国政治：英文评论聚焦于移民、经济困难和时事，以反对美国对乌克兰的支持。
- 俄文评论：这些评论指责乌克兰和摩尔多瓦的总统腐败，并背叛本国人民，屈从于西方的“干涉”。
在 3 月 22 日莫斯科恐怖袭击之后，网络扩大了活动范围，新增了一批聚焦塔吉克斯坦的 Telegram 账户，呼吁塔吉克人与俄罗斯人团结，并尊重俄罗斯法律。
影响行动影响评估
尽管使用了生成式 AI，“Bad Grammar”网络的实际影响仍然极小。OpenAI 将该行动评估为突破尺度（Breakout Scale）中的第 1 类——最低影响级别，原因如下：
- 互动低：极少评论获得点赞或回复。
- 覆盖范围有限：网络的评论通常只占单个帖子回复的少数，未能淹没其他观点。
- 放大效应有限：没有证据表明网络外的用户对其进行显著放大。
此外，OpenAI 还指出，该网络偶尔使用模型生成私人消息，这些消息似乎是与加密货币诈骗者的互动。