OpenAI 打击 VAGue Focus 影响行动

OpenAI 已经打断了“Operation VAGue Focus”，这是一个使用 ChatGPT 账户的网络，用于生成社交媒体内容、翻译信息以及进行社会工程尝试。该行动利用 AI 创建冒充欧洲或土耳其专业人士的角色，以收集情报并影响线上话语。

威胁行为者概况与归属

OpenAI 识别出一个小型的 ChatGPT 账户网络，这些账户主要在中国大陆工作时间内运行，并使用中文提示模型。这些行为者利用模型创建前台组织，以促进情报收集和分析。

以下三个主要实体被用作这些活动的掩护：

  • Focus Lens News：描述为一家独立的欧洲基地分析与报道实体。
  • BrightWave Media Europe：一个聚焦地缘政治的前台。
  • Visionary Advisory Group (VAG)：据称位于土耳其的地缘政治咨询服务。

运营工作流

Operation VAGue Focus 在四个主要功能领域中使用 ChatGPT 来支持其隐蔽活动：

1. 隐蔽影响与角色创建

行为者使用模型生成社交媒体帖子和在线角色的个人简介。这些角色在 X（前身为 Twitter）上冒充记者和地缘政治分析师，以分发内容并建立可信度。

2. 政治信函

这些账户被用于润色并翻译致美国参议员的信函，内容涉及一名行政官员的提名。OpenAI 指出，无法独立确认该信函是否真的已发送。

3. 网络工具查询

行为者向模型查询有关计算机网络攻击和利用工具的基本信息。OpenAI 报告称，模型仅提供了概括性的解释，且行为者的问题缺乏深度，表明其在网络行动方面的技术专长水平较低。

4. 社会工程与情报提取

ChatGPT 被用于将中文信息翻译成英文，以吸引并提取未知目标的信息。这些包括：

  • 在社交媒体上对研究人员和记者的公开回复。
  • 用于私人接触的直接消息。
  • 提供报酬（最高每小时 2,000 美元）进行关于美国经济和金融政策的访谈。
  • 提供支付以获取机密文件的报价。

技术指示器与情报收集

该行动的情报收集工作侧重于冒充欧洲或土耳其的专业人士。虽然 Visionary Advisory Group (VAG) 网站提供土耳其语和英文版本，但一次技术失误暴露了行为者的来源：英文版菜单中出现了中文“联系我们”（聯絡）字符，这是整个域名唯一的中文文本。

此外，行为者声称该行动使用机器学习、自然语言处理和自动化数据抓取来识别有影响力的社交媒体声音和话题，但 OpenAI 无法独立验证这些说法。

影响评估

OpenAI 评估该行动面向公众的部分影响力较低。依据布鲁金斯学会的影响行动 Breakout Scale，此活动被归类为 Category 2（低端），这意味着尽管活动遍及多个平台，但几乎没有证据表明真实用户广泛分享或参与了内容。

大多数关联的社交媒体账户未能获得显著的真实互动。一个与 Focus Lens News 关联的账户拥有 17,000 名粉丝，但 OpenAI 指出该账户可能已被入侵并重新利用，因为它创建于 2014 年，沉寂了十年，直至 2024 年中才重新活跃。

Sources