OpenAI 打击“Stop News”俄罗斯影响行动
OpenAI 已禁用了与俄罗斯发起的影响行动“Stop News”相关联的一批 ChatGPT 账户。该行动利用 AI 生成的内容冒充新闻媒体和社交媒体账户，在多个平台上传播特定叙事和宣传材料。
行动概述与行为体概况
“Stop News”行动起源于俄罗斯，似乎由一家营销公司运营。OpenAI 在 Meta 2024 年第二季度威胁报告中发现的平台外指示后启动了调查。该行动的主要目标是生成英文、法文和俄文内容，以在各类网站和社交媒体平台上进行分发。
基于 AI 的内容生成与分发
Stop News 使用 OpenAI 模型生成多样化内容，包括短评论、长篇文章和图像。其分发策略因语言和目标地区而异：
- 英语和法语： 长篇文章发布在冒充英国和非洲新闻媒体的网站上。短评论通过 X（前身为 Twitter）以及可能的 Facebook 和 Instagram 进行分发。
- 俄语： 内容作为俄语论坛和网站上的宣传材料，包括对圣彼得堡地区公司客户反馈的回复。
视觉与图像的使用
该行动在使用 DALL·E 生成图像方面尤为频繁。这些图像通常采用卡通风格、明亮色彩或戏剧化色调，旨在吸引注意力并提升互动。OpenAI 指出，这些图像并非用于深度伪造或虚假呈现事件，而是为了让帖子更抢眼。
此外，该行动将现代 AI 与旧技术相结合。虽然内容使用 DALL·E，但社交媒体账户的头像常常采用生成对抗网络（GAN）制作，这是一种自 2019 年起在影响行动中常见的技术。
内容主题与叙事
Stop News 生成的内容根据目标受众的不同而侧重不同主题：
- 英国：
britishtalks[.]com上的内容侧重于非政治新闻、体育和文化。然而，euronewstop[.]co[.]uk将这些内容与对乌克兰以及英国对乌克兰支持的批评混合在一起。 - 非洲（法语）： 文章和评论聚焦于西非音乐与文化，同时夹杂对乌克兰和法国的批评，包括指责法国未能妥善组织巴黎奥运会。
- 俄罗斯： 内容主要宣传俄罗斯西北部，尤其是圣彼得堡地区的商业服务。
影响与互动分析
尽管使用了 AI，该行动的社交媒体互动仍然较低。大多数 X 账户的粉丝数只有两位数，Meta 报告称在 Facebook 和 Instagram 上的总关注人数为 2,100。
然而，该行动在与合法本地组织建立“信息合作伙伴关系”方面取得了独特的成功。这些合作伙伴包括威尔士的一所学校、约克郡的一座教堂以及加州的商会协会。这些组织在其官网上发布了合作信息，使该行动的“新闻”品牌能够通过联合出版物和社区 outreach 与其成员互动。
爆发规模评估
OpenAI 将此行动评估为爆发规模（Breakout Scale）三类（该尺度为 1 到 6）。该评级基于以下因素：
- 活动性： 在多个平台上都有发布活动。
- 互动性： 有证据表明真实人物，尤其是“信息合作伙伴”，与该行动互动，但其病毒式传播程度不及更大规模的俄罗斯“巨魔”行动。
关联域名
OpenAI 识别出以下与 “Stop News” 行动关联的域名：
Euronewstop[.]co[.]ukNewstop[.]africaBritishtalks[.]comBritishattitudes[.]com