OpenAI 打断源自中国的 Sneer Review 影响行动

OpenAI 已经阻止了一项来源于中国的秘密影响行动，称为 Operation Sneer Review，该行动通过禁用用于批量生成社交媒体内容和内部组织文件的 ChatGPT 账户来进行。这一活动试图利用生成式 AI 模拟自然互动，并在多个全球平台上传播符合中国地缘战略利益的叙事。

行动者及其行动意图

OpenAI 识别并禁用了使用 ChatGPT 生成社交媒体帖子和内部绩效评估的账户。行为者的意图是通过生成英文、中文和乌尔都文内容来进行一次秘密影响行动（IO）。

行为者的关键特征包括：

  • 语言和来源：提示主要以中文发布，聚焦于与中国相关的地缘政治议题。一个用户在提示中明确声称自己为中国宣传部工作，尽管 OpenAI 说明没有独立证据验证此具体声明。
  • 运营使用案例：除了面向公众的内容外，行为者还使用 ChatGPT 起草内部政策文件、一篇仿官方公安文件风格的文章，以及详细说明运营管理步骤的绩效评估。

行为模式与平台分布

Operation Sneer Review 采用了“主账户”和辅助账户的特定模式，以制造虚假的自然互动印象。

社交媒体策略

  • 互动模拟：典型模式是主账户发布初始内容，随后由网络中的其他账户生成一系列回复评论，以模拟对话。
  • TikTok：网络使用了多种语言和字母的屏幕名称（例如韩语、泰语、希伯来语），这些名称常常与所发布内容的语言无关（例如使用韩文名称的账户发布乌尔都文内容）。
  • X（前 Twitter）：账户通常使用卡通头像，有些使用与加密货币相关的名称。
  • Facebook：活动仅限于创建两个冒充新闻机构的页面；然而，这些页面没有任何粉丝或点赞。
  • Reddit 和网络论坛：网络生成了长篇帖子，包括在 Reddit 上的一篇以及在其他网络论坛上的两篇。

目标内容与叙事

网络生成的内容严格对齐中国的地缘战略利益，聚焦于三个主要主题：

台湾与“逆统战”

该行动的名称来源于其针对以台湾为中心的游戏 Reversed Front（逆統戰）的活动，该游戏设想对抗中国共产党。网络生成了数十条批评性评论以及一篇声称该游戏受到广泛抵制的长篇文章。

巴基斯坦激进主义

英文和乌尔都文内容针对巴基斯坦活动家 Mahrang Baloch，她批评中国在俾路支的投资。网络使用 TikTok 账户和 Facebook 页面发布一段错误指控 Baloch 出现在色情影片中的视频，并配以数百条生成的评论以模拟互动。

美国对外援助

网络在 TikTok 和 X 上生成了关于美国国际开发署（USAID）关闭的内容，产生了赞扬或批评该举措的评论。

影响评估

OpenAI 评估认为 Operation Sneer Review 在被阻止时仍处于萌芽阶段。该行动的实际覆盖范围有限，Facebook 页面零粉丝，Reddit 帖子大多被屏蔽或删除。

互动指标

  • TikTok：两段视频累计获得 25,000 次点赞。
  • X：主账户的推文通常约有 10,000 次浏览。

OpenAI 警示，这些数字应持怀疑态度，因为许多评论是由网络自身生成的，表明存在大量不真实的互动。使用布鲁金斯学会的影响行动 Breakout Scale，OpenAI 将该活动评估为 Category 3 的低端，前提是假设互动数据真实，但若证实更多不真实互动，则会向下修正评估。

Sources