行动 Nine—emdash Line:破坏中国来源的影响活动

OpenAI 已封禁一批与源自中国的隐蔽影响行动关联的 ChatGPT 账户。该行动利用 AI 生成跨平台社交媒体内容并进行情报侦察,以影响东南亚、香港和美国的政治叙事。

行动概述与目标叙事

该网络专注于批量生成社交媒体帖子,以支持中国在南海和西菲律宾海的领土主张,特别提及“九段线”边界。由于该行动在 AI 生成的文本中频繁使用破折号(emdash),OpenAI 将此活动命名为 “Nine—emdash line”。

关键目标叙事包括:

  • 菲律宾: 生成批评总统费迪南德·马科斯的帖子,包括关于吸毒和选举操纵的虚假指控。
  • 越南: 创建涉及越南的内容——特别是其在南海的所谓环境影响。
  • 香港: 生成粤语帖子,抹黑民主派活动家和政治人物,如黎智英、罗冠聪、周庭,同时表达对香港国安法的支持。
  • 美国: 生成关于政治议题的英文内容,包括芬太尼危机。

AI 在内容生成与情报侦察中的利用

威胁行为者使用 ChatGPT 不仅仅进行文本生成;他们还利用这些模型进行研究、战略规划和角色塑造。

研究与情报侦察

运营者使用模型来识别遍布欧洲、美国和东南亚的细分博客、论坛以及监管较少的社交媒体平台。他们还请求常见的藏族姓名列表,OpenAI 将此视为创建不真实社交媒体角色的一种手段。OpenAI 指出,使用 AI 进行研究虽更为便利,但相较于传统搜索引擎,并未必显著提升行为者的整体能力。

社交媒体增长策略

在一次新颖的尝试中,该网络寻求增长策略的建议,包括如何发起 TikTok 挑战。具体而言,他们试图利用已有的 #MyImmigrantStory 标签,要求模型构思并生成 TikTok 帖子的文字稿,同时请求背景音乐和图像的推荐。

技术关联与归因

虽然这些社交媒体账户在行为上与 “Spamouflage”——一个长期运行的中国来源行动——存在相似之处,OpenAI 并未发现两者之间的直接技术关联。然而,部分在 “Nine—emdash line” 行动中使用的视频此前已被澳大利亚战略政策研究所识别为与早期 Spamouflage 活动相似的行动的一部分。

影响评估

OpenAI 将该行动评估为 IO 影响突破量表的第 2 类,意味着其在多个平台上活跃,但几乎未产生突破性的互动。

  • 低互动度: 大多数帖子获得的互动极少,且许多回复或转发是由同一受控网络内的其他账户生成的。
  • 缺乏精细度: 这些角色使用库存图片作为头像或默认用户名,并采用在其他中国来源行动中常见的协同行为特征。
  • 外部检测: Philstar.com 独立发现并报道了该网络在 X(Twitter)上的一部分,即使在 ChatGPT 账户被封禁后仍继续运作。

Sources