OpenAI Operation No Bell 案例研究

Operation No Bell：針對非洲的 AI 驅動影響力行動

OpenAI 封禁了一個與俄羅斯影響力行動「Operation No Bell」相關的 ChatGPT 帳號。該行動利用生成式 AI 製作長篇文章和社群媒體內容，批評美國及其盟友。此行動聚焦於撒哈拉以南非洲的地緣政治，利用虛假學術身分和重新利用的社群媒體頁面，將假訊息植入主流新聞媒體。

行動者與來源

該行動很可能源自俄羅斯，調查是由 Meta 提供的線索所觸發。「No Bell」這個名稱源於一個特定案例，當時 ChatGPT 使用者明確提示模型倡導安哥拉總統贏得諾貝爾和平獎，並聲稱其目標是為了激怒美國總統 Donald Trump 的團隊。

內容生成與散布策略

Operation No Bell 採用了多種技術和社交工程策略，以規避偵測並提高其內容的感知合法性：

使用虛假身分

許多長篇文章以「Dr. Manuel Godsin」的名義發表，聲稱他是卑爾根大學的博士學位持有者，也是「國際政治與戰略研究中心」的員工。OpenAI 的調查發現，挪威國家研究資訊庫 (NVA) 或卑爾根大學圖書館中均無此人的紀錄。進一步研究顯示，Godsin 所使用的照片實際上是 2010 年代一名聖彼得堡法律系學生的照片。

規避 AI 偵測

為了隱藏文本的 AI 生成性質，操作者使用了特定的提示技術：

• 風格限制： 使用者提示模型以人類記者的風格進行寫作。
• 移除格式： 使用者特別要求移除破折號（em-dashes），這是 AI 生成文本常見的標記。在迦納發表的一篇文章中，由於原始 AI 生成內容中的破折號被手動移除，導致出現了亂碼。

跨平台協調

該行動利用了多種 AI 工具和平台：

• Facebook 粉絲專頁： 內容被發布到冒充南非、迦納、肯亞和安哥拉新聞媒體的 Facebook 粉絲專頁上。部分頁面是收購並重新利用的；例如，「Kenya Watchtower」之前名為「Farmtown5」。
• 多模型使用： 使用者嘗試了不同的模型，要求為 Gemini 提供圖像提示，並要求 ChatGPT 修改看起來是由 Gemini 生成的圖像，以便用作 Facebook 橫幅。

主題焦點與敘事目標

生成的內容主要讚揚俄羅斯，並批評烏克蘭、英國和美國。關鍵敘事包括：

• 地緣政治批評： 文章讚揚俄羅斯在中非共和國的存在，並指責西方領導人利用假訊息針對南非。
• 在地化議題： 該行動針對特定實體，例如指控德國軍火製造商 Rheinmetall 透過南非子公司規避出口管制，並指控英國非政府組織 Crisis Action 在南非煽動抗議活動。
• 個人化攻擊： 部分內容特別針對烏克蘭總統 Volodymyr Zelenskiy 或美國總統 Donald Trump。

影響評估

雖然該行動在社群媒體上的影響力有限（其中一個頁面在被 Meta 封禁前僅達到 3,000 名追蹤者），但它在將文章植入主流新聞網站方面較為成功。

使用布魯金斯學會 (Brookings Institution) 用於影響力行動的「突破規模」(Breakout Scale)（範圍從 1 到 6），OpenAI 評估 Operation No Bell 處於第 4 類別的低端，這表明該行動成功地突破進入了主流媒體。