OpenAI 打击“腐败评论”影响行动

OpenAI 已禁止一批与名为“腐败评论”的影响行动相关的 API 活动。该行动利用 OpenAI 模型生成英文评论，发布在 X（前身为 Twitter）上，以批评由已故阿列克谢·纳瓦尔尼创立的反腐基金会（FBK）及其领导层。

行动机制与行为

“腐败评论”行动使用 OpenAI 的 API 生成英文文本，随后由虚假账号在 X 上发布。这些账号主要针对反腐基金会的高级人物以及纳瓦尔尼的关联人士。

该行动行为的关键特征包括：

• 缺乏上下文意识：虽然生成的评论被作为对现有帖子的回复发布——这些帖子通常是用俄语撰写的——但没有证据表明模型被用于阅读、分析或生成针对这些帖子的相关回复。这些评论是预先生成的，并未对社交媒体内容作出响应。
• 账号概况：涉及的 X 账号大多创建于 2023 年 12 月。这些账号通常没有任何粉丝，且其帖子也未收到任何回复。
• 视觉欺骗：这些账号使用的头像要么是从网络上复制的风景图片，要么是使用生成对抗网络（GAN）制作的虚假图像，这项技术可追溯至 2019 年。

内容策略：“主题与变体”

生成的内容聚焦于批评反腐基金会，特别是质疑其透明度。该行动采用了“主题与变体”策略，即在众多不同帖子中重复相同的核心信息，仅在措辞上做轻微变化，以规避检测或制造多元意见的假象。

影响评估

OpenAI 评估该行动的影响有限。大多数被识别的账号没有粉丝，也未收到任何互动（回复）。此外，该网络生成的英文回复通常被与行动无关的第三方发布的俄文回复所超越，这表明该网络未能成功淹没平台上的讨论。