OpenAI 打击利用人工智能的虚假前端影响力行动
OpenAI 已经挫败了两个源自俄罗斯和伊朗的复杂影响力行动（IO），这些行动利用人工智能创建了“虚假前端”实体。这些行动超越了简单的社交媒体机器人操作，创建了虚假的记者人物和欺诈性智库，成功地将地缘政治信息植入主流媒体渠道。
人工智能在虚假前端行动中的作用
威胁行为者正在使用人工智能来提升欺骗性活动的规模、效率、语言流利度和编辑质量。人工智能并非取代传统的影响力策略，而是用于优化工作流程，例如将长篇内容精炼以符合特定出版物的标准，或起草内部绩效报告。
OpenAI 指出，这些行动与人工智能出现前的时代影响力活动非常相似，但利用人工智能来利用毫无防备的编辑和员工，使内容更容易在不知情的受众面前传播，而这些受众并不了解内容背后的动机。
行动“Dark Clark”：俄罗斯在拉丁美洲的影响力行动
OpenAI 禁用了多个源自俄罗斯的账户集群，这些账户针对拉丁美洲国家，特别旨在损害乌克兰的声誉，并影响阿根廷、玻利维亚和厄瓜多尔的政治结果。
社会研究机构（SRC）前端
该行动最复杂的部分是创建了名为“社会研究机构”（SRC）的虚假“研究平台”，专注于拉丁美洲的印度侨民。俄罗斯操作者通过一个名为“Mia Clark”的虚假身份控制了 SRC。
关键的是，该行动利用了拉丁美洲毫不知情的本地员工，他们误以为自己在为一个合法实体工作。这些员工撰写了原创研究，俄罗斯操作者随后利用这些内容建立了一个持久的前端身份。这与以往主要依赖抄袭内容的行动不同。
战术执行与影响
操作者主要使用 ChatGPT 进行向上级的内部报告，偶尔用于制造虚假内容。关键活动包括：
- 伪造事件： 欺骗秘鲁的学校举办包含争议人物的活动，以引发乌克兰与波兰之间的外交紧张。
- 伪造文件与音频： 制造乌克兰驻厄瓜多尔领事的伪造音频，以及一份虚假合同，暗示厄瓜多尔政府正在招募公民前往乌克兰参战。
- 内部欺骗： 试图将现有政治论点或新闻事件（如福克兰/马尔维纳斯群岛争端）归功于自己，以向雇主夸大其行动效果。
OpenAI 将此次行动评估为“突破等级”中的 第5级，这是 OpenAI 首次挫败的第5级行动，因其能够引发政府正式否认和政界人士的公开评论。
行动“Bogus Bylines”：伊朗影响力行动
OpenAI 打击了一项伊朗行动，该行动利用人工智能在在线新闻媒体上以欺骗性署名发布长篇文章。
记者人物策略
该行动使用了七个虚假的西方记者人物（例如“Ervin B. Hoskins”和“Sophia Gonzalez”）向中小型在线媒体投稿。行为者使用 ChatGPT 来：
- 审查并完善英文稿件，使其符合特定媒体的投稿要求。
- 生成专业的投稿邮件发送给编辑。
- 为虚假人物撰写详细的个人简介。
OpenAI 在十余家出版物中识别出近100篇文章，这些文章均以这些署名发表，主要聚焦于美伊冲突，并将美国描绘为侵略者。
社交媒体放大
除了文章外，行为者还生成了多批英文和波斯语的社交媒体评论，以赞扬他们自己的文章或攻击伊朗政权的批评者。然而，这些评论的互动率普遍较低。
影响评估
OpenAI 使用“突破等级”进行了分项评估：
- 记者人物： 评为 第4级，因其持续进入多个媒体渠道，部分媒体拥有数百万粉丝。
- 社交媒体回复： 评为 第2级，因其互动率低，且无法主导对话。
影响力行动传播范围总结
对 OpenAI 过去两年半内揭露的30个隐蔽影响力行动的分析揭示了一个明确的模式：成功将内容植入真实媒体渠道的行动，其潜在传播范围和影响力远高于仅依赖虚假社交媒体分发的行动。