OpenAI 破壞「Sneer Review」行動——中國來源的影響活動

OpenAI 已經破壞了一個源自中國的隱蔽影響行動，稱為「Sneer Review」行動，透過封禁用於大量產生社群媒體內容與內部組織文件的 ChatGPT 帳號。此活動企圖利用生成式 AI 模擬自然互動，並在多個全球平台上散布與中國地緣戰略利益相符的敘事。

行動者與作業意圖

OpenAI 辨識並封禁了使用 ChatGPT 產出社群媒體貼文與內部績效評估的帳號。該行動者的意圖是透過產生英語、中文與烏爾都語內容，執行一項隱蔽的影響行動（IO）。

  • 語言與來源：提示主要以中文發出，且聚焦於與中國相關的地緣政治議題。曾有使用者在提示中明確聲稱自己為中國宣傳部工作，然而 OpenAI 表示沒有獨立證據驗證此具體聲稱。
  • 作業使用案例：除了面向公眾的內容外，行動者還利用 ChatGPT 起草內部政策文件、一篇仿官方公安文件風格的論文，以及說明執行此行動所採取步驟的績效評估。

行為模式與平台分佈

「Sneer Review」行動採用了「主帳號」與輔助帳號的特定模式，以製造虛假的自然互動印象。

社群媒體策略

  • 互動模擬：典型模式為主帳號發布初始內容，隨後由其他網路帳號產生一系列回覆評論，以模擬對話。
  • TikTok：該網路使用各種語言與字母的螢幕名稱（例如韓文、泰文、希伯來文），且這些名稱常與所發佈內容的語言無關（例如使用韓文名稱的帳號發佈烏爾都語內容）。
  • X（前身為 Twitter）：帳號通常使用卡通頭像，部分帳號則使用與加密貨幣相關的名稱。
  • Facebook：活動僅限於建立兩個冒充新聞媒體的粉絲專頁；然而，這些專頁沒有任何追蹤者或讚好。
  • Reddit 與網路論壇：該網路產生較長篇幅的貼文，包括 Reddit 上的一篇以及其他網路論壇上的兩篇。

目標內容與敘事

該網路產生的內容嚴格符合中國的地緣戰略利益，聚焦於三大主題：

台灣與「Reversed Front」

此行動的名稱「Sneer Review」源自其針對以台灣為中心的遊戲《Reversed Front》（逆統戰）的活動，該遊戲描繪對中國共產黨的抵抗。該網路產生了數十則批評評論以及一篇長篇文章，聲稱該遊戲遭到廣泛的抨擊。

巴基斯坦活動主義

以英語與烏爾都語撰寫的內容針對巴基斯坦活動家 Mahrang Baloch，她曾批評中國在俾路支的投資。該網路利用 TikTok 帳號與 Facebook 專頁發布一段影片，錯誤指控 Baloch 出現在色情影片中，並以數百則生成的評論來模擬互動。

美國對外援助

該網路在 TikTok 與 X 上產生關於美國國際開發署（USAID）關閉的內容，並產出讚揚或批評此舉的評論。

影響評估

OpenAI 評估「Sneer Review」行動在被破壞時仍處於萌芽階段。該行動的實際影響範圍有限，Facebook 專頁沒有任何追蹤者，Reddit 貼文大多被封鎖或移除。

互動指標

  • TikTok：兩支影片合計獲得 25,000 個讚。
  • X：主帳號的推文通常各獲得約 10,000 次觀看。

OpenAI 警告說，這些數據應持懷疑態度，因為許多評論是由該網路自行生成，顯示出大量不真實的互動。根據布魯金斯學會的影響行動 Breakout Scale，OpenAI 在假設互動數據屬實的前提下，將此活動評估為第 3 類的低端，但若證實更多不真實互動，則會向下調整評估。

Sources