OpenAI 行動 同儕審查：破壞 AI 輔助的監控規劃

OpenAI 已封禁了一批被稱為「Operation Peer Review」的 ChatGPT 帳號，這些帳號可能源自中國，並被用於協助監控規劃、政治研究以及社群媒體監測工具的開發。此舉破壞了一個利用 AI 進行能力開發與內部分析，而非大規模公共影響行動的網路。

網路識別與行為模式

「Peer Review」網路由一系列 ChatGPT 帳號組成，這些帳號的行為模式符合中國大陸的上班時間，且使用中文提示。OpenAI 指出，活動的量與多樣性顯示為手動提示，而非自動化 API 使用。至少有一次證據顯示，同一帳號被多位操作員共用。

主要作業工作流

此集群的操作員從事四大類主要活動：

政治與政府研究

該網路將 ChatGPT 作為基礎研究工具，收集美國智庫以及美國、澳洲與柬埔寨的政治人物與政府官員的公開資訊。

文件分析與翻譯

操作員使用模型閱讀、翻譯與分析英文文件的截圖。這些文件包括在多個西方城市舉行維吾爾權利抗議的公告——可能來自社群媒體——以及涉及印太地區外交與政府議題的資料。OpenAI 表示，缺乏足夠證據判斷這些文件的真偽或取得方式。

內容生成以影響輿論

行動者產生了關於美國政策、政治以及中國異議組織（尤其是法輪功）的短至中篇評論。有些提示要求模型以名為「Thompson」的英語使用者身份回應。然而，OpenAI 無法確認這些生成的評論有任何被上傳至線上。

監控工具開發

該網路使用 ChatGPT 編輯與除錯程式碼，並為名為「Qianyue Overseas Public Opinion AI Assistant」（千阅境外舆情AI助手）的 AI 驅動社群媒體聆聽工具產生宣傳素材。

根據該工具的說明（OpenAI 無法自行驗證），此助理的設計目的是：

  • 從包括 X、Facebook、YouTube、Instagram、Telegram 與 Reddit 在內的平台，收集並分析貼文與評論。
  • 辨識有關中國政治與社會議題的社群媒體對話，特別是呼籲參與中國人權示威的訊息。
  • 將產生的洞見提供給中國當局，包括監控美國、德國與英國抗議活動的情報人員，以及海外的中國大使館。

技術實作與模型使用

雖然該網路在開發與優化階段使用了 ChatGPT，但監控工具的實際執行似乎並未使用 OpenAI 模型。該網路除錯的程式碼常常引用透過 Ollama 部署的 Meta Llama 3.1 8B 作為分析與生成的驅動。

此外，該網路除錯了用於惡意軟體分析的程式碼，並提及其他模型，包括阿里雲的 Qwen 以及 DeepSeek 的未指明模型。亦有操作員在績效評估中聲稱為中國客戶產生釣魚郵件，然而 OpenAI 未發現此郵件活動是由 AI 驅動的證據。

影響評估

OpenAI 報告稱，大部分活動聚焦於內部能力開發——如程式碼除錯與影像分析——而非公開散布。雖然部分內容類似社群媒體評論，OpenAI 無法找到這些評論被上傳至線上的證據。OpenAI 指出，要評估此行動的完整影響需與其他利害關係人合作，包括使用該網路所用開源模型的操作員。

Sources