OpenAI 破壞俄羅斯「Doppelganger」影響行動

OpenAI 已封禁四個與俄羅斯影響行動「Doppelganger」相關的帳號群組。這些行動者使用 OpenAI 模型產生多語言內容，發布於網站與社群媒體，以影響歐洲與北美的受眾，主要聚焦於烏克蘭戰爭。

影響行動的策略與帳號群組

OpenAI 識別出四個不同的帳號群組，每個群組採用不同的策略、技術與程序（TTP），顯示此行動由不同功能團隊管理。

群組 1：多語言社群媒體互動

此群組產生英文、法文、德文、義大利文與波蘭文的短文字評論，並與 meme 與影片一起發布於 9GAG 與 X（前身為 Twitter）。

  • 9GAG 活動： 帳號常使用名人或貓咪的頭像，並在多種頻道發文（例如「Random」、寵物、運動、幽默與約會）。為營造支持的假象，三至五個帳號會回覆每篇貼文，內容僅為「hahaha」或「lol」等簡單訊息。這些帳號通常在同一天建立，且僅參與活動相關內容。
  • X 活動： 帳號通常只發佈一至兩篇貼文。評論會附帶看似隨機的連結（例如「solarpanelfor.sale」），這些連結會導向受 Doppelganger 歸屬的地理限制網站。亦出現錯誤，導致英文、德文與波蘭文文章只能透過法國 IP 位址存取。
  • 規避策略： 為繞過 OpenAI 的支援國家存取政策，此群組使用與俄羅斯與捷克公司相關的服務。OpenAI 已停用該服務的 API 存取。

群組 2：翻譯與內容生成

此群組專注於將原始俄文作品翻譯成英文與法文。這些文章發表於網站 rrn.media，該網站多次被歸屬於 Doppelganger。群組亦產生短篇社群媒體評論，以推廣這些文章。

群組 3：法語內容精修

此群組致力於產生、校對與修正發表於網站 franceeteu.today 的法語文章，該網站同樣被歸屬於 Doppelganger。

群組 4：德語內容生成

此群組從 Doppelganger 網站 grenzezank.com 抓取內容，並利用這些內容產生短篇貼文，發布於以該網站命名的 Facebook 粉絲專頁與社團。

內容主題與模型限制

大部分內容聚焦於烏克蘭戰爭，旨在正面描繪俄羅斯，負面描述美國、北約與歐盟。常見的敘事包括：

  • 俄羅斯是歐洲重要的經濟夥伴。
  • 西方領導人與選民脫節。
  • 烏克蘭軟弱、腐敗或即將失敗。

OpenAI 指出，行動者曾嘗試使用其模型生成歐洲政治人物與俄羅斯批評者的卡通圖像，但模型拒絕了這些請求。

影響評估

OpenAI 評估認為，已識別的 Doppelganger 活動未能從真實受眾獲得顯著的正向互動。

  • 互動指標： 在 9GAG 上，貼文通常獲得 5-10 個讚（多數來自與活動相關的帳號）以及 15 至 200 個倒讚。於 X 上，貼文常有約 1,000 次分享，卻沒有任何讚或回覆，顯示非真實的放大效應。
  • 突破規模評分： 依據布魯金斯學會的 Breakout Scale（1-6），OpenAI 將此活動歸類為第 2 類。這表示雖然該行動在多平台發布，卻未能取得「突破」或與真實受眾的顯著互動。

Sources