OpenAI 打击 A2Z 行动的多语言影响活动
OpenAI 已经阻止了名为 “Operation A2Z” 的多语言影响行动,该行动利用 OpenAI API 自动创建和管理虚假社交媒体人格。该行动利用 AI 生成个人简介、分析帖子、起草多语言回复,并制作风格化图像,以在 X 和 Facebook 上影响政治话语。
AI 驱动的人格管理与内容生成
Operation A2Z 使用 AI 自动化影响 “杀链” 的多个阶段,使少数运营者能够管理约 150 个已识别的 X 与 Facebook 账户。AI 被用于以下具体任务:
- 人格开发: 为虚假账户生成简介,以建立可信度。
- 内容创作: 用多种语言起草简短评论和回复。
- uma 校对: 对生成的文本进行润色,使其更流畅、更真实。
- 互动分析: 分析已有的帖子和评论,以定制回复。
- 视觉内容: 制作风格化图像,常呈现 1930 年代海报的风格,旨在吸引注意而非欺骗。
通过自动化这些流程,行动避免了需要大量人类 “水军”,从而降低了运营成本并降低了泄露风险。
针对的主题与政治叙事
虽然该行动涉及广泛议题,暗示其可能是商业运营实体,但出现了若干突出的政治主题:
支持阿塞拜疆
最常见的活动是赞扬阿塞拜疆政府,包括宣传阿塞拜疆作为欧洲能源供应国的角色,捍卫其人权记录,突出其主办联合国气候变化大会以及在中亚促进团结的作用。
区域与全球稳定
- 阿拉伯联合酋长国: 部分账户将阿联酋描绘为稳定的投资目的地,常与美国的政治不稳定进行对比。
- 欧洲和美国政治: 该行动根据地区部署不同意识形态。例如,一些 X 账户冒充自由派批评前美国总统特朗普,而法语 Facebook 账户则批评马克龙总统并支持国民阵线(RN)党。
- 国际干预: 部分内容主张西方国家应关注国内事务,而非干预国际冲突,特别提及俄罗斯入侵乌克兰。
普通兴趣话题
除政治外,行动还生成了关于金融市场、加密货币、生态问题、AI 演进以及一般技术的内容。
影响评估与脆弱性
OpenAI 使用 Breakout Scale 对 Operation A2Z 的影响进行评估,给出第二类(在 1 到 6 的量表上)最高端的评级,并有可能升至第三类。此评级基于该行动能够跨多个平台发布并与真实用户进行对话的能力。
互动指标
尽管活动量大,但影响范围有限:
- 粉丝数: 识别出的最大 X 账户仅有 222 名粉丝;大多数账户在 15 到 25 之间。
- 互动度: X 上的普通帖子获得的互动为个位数。Facebook 帖子最高的反应数为 36,且大多数在 0 到 5 之间。
“AI 脆弱性”悖论
OpenAI 指出,虽然 AI 提升了影响运营者的能力,却也产生了关键脆弱性。由于 Operation A2Z 在几乎每个阶段都依赖 AI,封禁 API 访问即可一次性切断杀链中的多条环节。
在 6 月初的干预之后,已识别的账户在欧盟、英国和法国的关键选举期间停止发帖。虽然部分账户在 8 月底使用其他 AI 模型恢复发帖,但原有的规模和效率已大幅下降。