OpenAI 打击 Operation Uncle Spam 影响活动

OpenAI 已经禁止了一系列与中国发起的、名为 “Operation Uncle Spam” 的影响行动相关的 ChatGPT 账户。该行动利用 AI 生成两极化的社交媒体内容，针对美国政治话语，以利用现有分歧而非推广单一意识形态。

AI 驱动的内容生成与放大

Operation Uncle Spam 使用 OpenAI 的模型生成社交媒体评论并计算放大策略。该网络主要聚焦于有争议的话题，例如关税，在同一运营会话中生成支持或批评该议题的内容。

为了最大化信息的影响，威胁行为者向模型请求最佳发布时间，以提升受众参与度。这表明他们在 X 和 Bluesky 等平台上采用了有计划的两极化内容放大方法。

人物形象创建与视觉身份

该行动使用 AI 图像生成技术为虚构人物创建风格化的徽标和头像。主要重点是打造看似美国老兵、批评当前美国政府的人物形象，包括为诸如 “Veterans for Justice” 等实体创建徽标。

数据提取与用户分析

威胁行为者持续请求代码和方法，以从社交平台提取个人数据，包括 X 和 Bluesky 的用户资料和关注者列表。他们使用了 Tweepy、Nitter 和 Bluesky 公共 API 等工具来实现这些目的。

除了提取之外，这些账户还使用 OpenAI 的模型获取分析个人资料数据的指导，以识别个人特征和组织关联，这可能使该行动能够对个人进行分类或推断其关联和属性。

影响评估

使用影响行动（IO）的 Breakout Scale，OpenAI 将 Operation Uncle Spam 评估为第 2 类。此分类表明该行动在多个平台上活动，但几乎没有突破或真实互动。

尽管部分账户的关注者数量达数千，但由 OpenAI 模型生成的内容几乎没有获得点赞或转发。关注者数量并未转化为对帖子的真实互动。