OpenAI 案例研究：中國執法部門的「網路特戰」影響力行動

TL;DR

OpenAI 封禁了一個與中國執法部門有關的 ChatGPT 帳號，該用戶曾試圖利用該模型策劃針對日本首相的隱蔽影響力行動，並編輯關於更廣泛「網路特戰」行動的狀態報告，這揭露了一項針對全球異議人士、資源密集且由 AI 增強的行動。

行動者與立即行動

結論： OpenAI 識別並停用了與中國執法部門人員相關的 ChatGPT 帳號，該人員曾尋求模型協助進行隱蔽影響力規劃。

  • 該用戶試圖獲取針對日本首相高市早苗（Sanae Takaichi）行動的指導，並要求模型潤飾定期行動報告。
  • ChatGPT 拒絕提供規劃建議；用戶隨後提交了一份報告進行潤飾，顯示該行動在沒有模型協助的情況下繼續進行。
  • OpenAI 的調查將該用戶的活動與一項被稱為「網路特戰」的中國起源影響力行動聯繫起來。

行動規劃嘗試

結論： 用戶的提示詞揭示了一個結構化、多向量的計畫，旨在抹黑一位日本領導人，但模型拒絕協助執行。

  • 六步計畫：(1) 放大負面評論，(2) 捏造外國居民投訴，(3) 利用生活成本敘事，(4) 指控極右翼聯繫，(5) 煽動反美關稅情緒，(6) 傳播關於內蒙古的正面訊息。
  • 在被拒絕後，用戶提交了一份狀態報告草稿，遵循相同的五個主題支柱（不包括內蒙古元素），並聲稱執行細節，如網紅外聯和標籤部署。
  • 開源驗證發現，標籤 #右翼共生者 在 2025 年 10 月下旬的 X、Pixiv 和 Blogspot 上的低互動貼文中出現，與用戶的描述相符。

低影響力網路活動的證據

結論： 已識別的貼文顯示了該行動的策略，但觸及範圍有限，顯示其現實世界的影響力微乎其微。

  • 迷因和貼文獲得的互動微不足道（例如，最高的 Pixiv 瀏覽量 = 108，YouTube 影片 < 5 次觀看）。
  • 據報導，平台封禁在幾天內移除了約 200 個虛假帳號，進一步限制了可見度。
  • 儘管指標較低，但這些活動與用戶聲稱的策略和時間表一致。

跨平台的戰術範圍

結論： 用戶列舉了 100 多種不同的戰術，展示了一套全面的壓制批評者的劇本。

  • 戰術包括敘事操縱、內容灌水、虛假帳號放大、惡意舉報、騷擾、針對家庭、直播劫持和線下恐嚇。
  • 透過開源數據驗證的具體例子：
    • Spamouflage 風格的標籤活動和迷因分發。
    • 針對異議人士界立建的虛假訃聞，由美國之音（VoA）報導和一個名為「界立建治喪委員會」的 X 帳號證實。
    • 針對 X 用戶 @huikezhen（Hui Bo）的協調式惡意舉報，導致了可見的限制通知。
    • 在 Bluesky 上的冒充行動，於 2024 年 12 月 5 日創建了五個模仿 Hui Bo 的帳號。
  • 用戶的報告還提到了線下恐嚇（例如逮捕、向雇主進行虛假指控、海報活動），OpenAI 無法獨立核實這些內容。

本地部署 AI 模型的使用

結論： 據報導，該行動利用開源權重的中國 AI 模型進行監控、翻譯和內容創作。

  • 引用的模型：DeepSeek-R1、Qwen 2.5 和電腦視覺模型 YOLOv8。
  • OpenAI 之前的威脅情報報告（2025 年 2 月、2025 年 10 月）記錄了類似的中國起源用戶使用開源權重模型進行社交媒體監控和網路釣魚。
  • 沒有直接證據證實該披露行動中使用了特定模型，但該說法與已知模式一致。

規模與人員配置聲稱

結論： 用戶的內部報告顯示這是一個大型的省級行動，擁有數百名操作員和數千個虛假帳號。

  • 一份報告聲稱在單一省份有 300 名操作員，其他地方也有類似團隊，暗示了國家級的人員配置水平。
  • 報告的活動涵蓋 300 多個國內平台（微博、微信）和 300 個國外平台，國內有「數百萬條貼文」，國外有「數萬條」。
  • 用戶聲稱系統性地整合了 AI 進行分析、翻譯和文件記錄，儘管缺乏獨立驗證。

影響評估

結論： 雖然一些異議人士經歷了騷擾和帳號限制，但整體可衡量的網路影響似乎有限。

  • 記錄在案的結果包括 Hui Bo 的帳號限制以及某些目標的活動減少。
  • 大多數已識別的貼文產生的互動微不足道；許多標籤和迷因被迅速移除或未被真實受眾看到。
  • 用戶聲稱在 200 多個西方平台上發布了 > 50,000 條貼文，但只有約 150 條貼文獲得了 > 300 次互動，顯示轉化率較低。

更廣泛的影響

結論： 此案例強調了對模型層級濫用檢測的需求，並突顯了國家關聯行為者如何試圖將大型語言模型（LLM）武器化以進行隱蔽影響力行動。

  • 即使 LLM 拒絕協助，工作流程中模型（例如用於報告潤飾）的存在也可以提供有助於情報分析的行動文件。
  • 本地部署 AI 模型的整合擴大了威脅面，超出了商業 API 的範圍，需要對開源權重模型的濫用進行更廣泛的監控。
  • OpenAI 的公開披露為研究界、平台運營商和政策制定者追蹤並反制國家支持的影響力行動提供了寶貴的開源證據。

關鍵要點： OpenAI 的調查揭露了一個由中國執法部門運作的複雜、AI 增強的「網路特戰」計畫，該計畫結合了網路騷擾、虛假帳號放大和線下恐嚇，但所記錄行動在公開可見的網路影響力方面仍然有限。

Sources