OpenAI Operation No Bell 案例研究

Operation No Bell：针对非洲的 AI 驱动影响力行动

OpenAI 封禁了一个与俄罗斯影响力行动“Operation No Bell”相关的 ChatGPT 账户。该行动利用生成式 AI 撰写长篇文章和社交媒体内容，批评美国及其盟友。该行动聚焦于撒哈拉以南非洲的地缘政治，利用虚假的学术身份和改头换面的社交媒体页面，将虚假信息植入主流新闻媒体。

行动者与来源

该行动很可能源自俄罗斯，调查是由 Meta 提供的一条线索引发的。“No Bell”这一名称源于一个特定案例：ChatGPT 用户明确提示模型主张安哥拉总统应获得诺贝尔和平奖，并声称其目标是激怒美国总统 Donald Trump 的团队。

内容生成与分发策略

Operation No Bell 采用了多种技术和社会工程学手段来规避检测并提高其内容的可信度：

使用虚假身份

许多长篇文章以“Dr. Manuel Godsin”的名义发表，声称其拥有卑尔根大学的博士学位，并就职于“国际政治与战略研究中心”。OpenAI 的调查发现，在挪威国家研究信息库 (NVA) 或卑尔根大学图书馆中均无此人的记录。进一步研究显示，Godsin 使用的照片实际上是 2010 年代一名圣彼得堡法律系学生的照片。

规避 AI 检测

为了掩盖文本的 AI 生成性质，操作者使用了特定的提示技巧：

• 风格限制： 用户提示模型以人类记者的风格进行写作。
• 移除格式： 用户专门要求移除长破折号（em-dashes），这是 AI 生成文本的常见标记。在加纳发表的一篇文章中，由于原始 AI 生成内容中的长破折号被手动移除，导致文本出现了乱码。

跨平台协调

该行动利用了多种 AI 工具和平台：

• Facebook 页面： 内容被发布到冒充南非、加纳、肯尼亚和安哥拉新闻媒体的 Facebook 页面上。一些页面是通过收购并改头换面获得的；例如，“Kenya Watchtower”之前名为“Farmtown5”。
• 多大语言模型使用： 用户尝试了不同的模型，请求 Gemini 生成图像提示，并要求 ChatGPT 修改看起来是由 Gemini 生成的图像，以便用作 Facebook 横幅。

主题焦点与叙事目标

生成的内容主要赞扬俄罗斯，并批评乌克兰、英国和美国。核心叙事包括：

• 地缘政治批评： 文章赞扬俄罗斯在中非共和国的存在，并指责西方领导人利用虚假信息针对南非。
• 本土化议题： 该行动针对特定实体，例如指责德国武器制造商 Rheinmetall 通过南非子公司规避出口管制，并指责英国非政府组织 Crisis Action 在南非煽动抗议活动。
• 人身攻击： 部分内容专门针对乌克兰总统 Volodymyr Zelenskiy 或美国总统 Donald Trump。

影响评估

虽然该行动在社交媒体上的覆盖范围有限（其中一个页面在被 Meta 封禁前仅拥有 3,000 名关注者），但它在主流新闻网站上植入文章方面更为成功。

利用布鲁金斯学会 (Brookings Institution) 的影响力行动突破规模 (Breakout Scale)（范围从 1 到 6），OpenAI 评估 Operation No Bell 处于第 4 类别的低端，表明该行动成功渗透到了主流媒体中。