OpenAI 打击 STORM-2035 伊朗影响行动
OpenAI 已经打击了一项伊朗起源的影响行动，代号为 Storm-2035，通过封禁用于在多个平台生成欺骗性政治内容的 ChatGPT 账户。此行动凸显了 AI 在规模化生产长篇文章和短篇社交媒体互动，以模拟多元政治观点方面的使用。
对 Storm-2035 的识别与归属
OpenAI 识别并封禁了一批用于为协调的影响行动生成英文和西班牙文内容的 ChatGPT 账户。该行为者的活动跨多个平台关联，包括 X 上十余个虚假身份、Instagram 上一个账户以及五个独立网站。
归属是通过跨行业合作实现的：
- Microsoft 之前曾报告过与该行为者相关的一些网站，名称为 “Storm-2035”。
- Meta 确认已识别的 Instagram 账户与一个伊朗网络相连，该网络曾在 2022 年 12 月被 Meta 打击。
OpenAI 对该行为者行为的可视性使得首次能够将特定的社交媒体发布活动与相关网站关联起来。
操作工作流与策略
该行为者采用了两条平行工作流来传播内容并构建虚假身份。
长篇文章生成
该行为者使用 OpenAI 模型生成英文文章，篇幅通常在 700 到 900 字之间。这些文章发布在五个网站上，这些网站伪装成进步或保守阵营，以针对不同的意识形态受众。文章的主要焦点是美国，特别是提及当前选举周期的总统和副总统候选人。
社交媒体互动
该行动使用 AI 为 X 和 Instagram 生成英文和西班牙文的短评论。所采用的身份扮演了多种角色以显得真实：
- 在 X 上： 账户伪装成美国总统选举两位主要候选人的支持者。
- 在 Instagram 上： 一个账户伪装成苏格兰独立的支持者。
为支持这些活动，这些账户使用 ChatGPT 进行基础研究，包括寻找提升社交媒体互动的技巧。曾有一次，用户尝试生成一篇文章，声称微软曝光该行动证明伊朗网络行动的影响力超过俄罗斯或中国的网络行动，尽管 OpenAI 未发现该特定文本在网上被发布的证据。
内容主题与策略
生成的内容聚焦于高度两极化的地缘政治和社会议题，以推动影响。关键主题包括：
- 全球冲突： 加沙冲突以及以色列在奥运会的存在。
- 美国政治： 美国总统选举以及美国拉丁裔社区的权利。
- 国际事务： 苏格兰独立和委内瑞拉的政治。
为了提升账户的可信度并尝试建立追随者，行为者还生成并发布了关于美容和时尚的通用内容。OpenAI 的 DALL·E 3 分类器判断这些美容帖中使用的图像并非由 OpenAI 服务生成。
影响与覆盖范围
尽管内容产出规模庞大，该行动并未实现有意义的受众互动。大多数社交媒体帖子在关联账户被暂停前获得的互动极少甚至为零，且没有证据表明长篇文章在社交媒体上被广泛分享。