OpenAI 破壞與中華人民共和國相關的 AI 濫用以進行監控與影響

OpenAI 已阻止與中華人民共和國（PRC）政府相關的個人使用 ChatGPT 協助開發監控工具、剖析與官僚功能的活動。此類阻斷是更廣泛努力的一部分，旨在防止威權政權利用 AI 累積權力並控制公民。

大規模監測工具的開發

與 PRC 政府實體相關的使用者嘗試使用 ChatGPT 設計與推廣用於大規模監測線上與線下流量的工具。在這些案例中，模型被用於規劃與宣傳材料，而非實際執行監測。

• 社群媒體聆聽工具： 一名被封鎖的使用者（可能透過 VPN 從中國存取服務）使用 ChatGPT 設計社群媒體「探針」(probe) 的宣傳材料與專案計畫。此工具旨在掃描包括 Twitter/X、Facebook、Instagram、Reddit、TikTok 與 YouTube 在內的平台，尋找與族群、宗教、政治相關的內容，以及使用者所稱的「極端言論」。
• 旅行警示系統： 另一名可能與政府實體有關的使用者利用 ChatGPT 撰寫「高危涉維吾爾關注人員流入預警模型」的提案。此提案工具旨在分析交通預訂資料，並與警政紀錄比對，以提供針對被歸類為「涉維吾爾且高風險」個體的旅行動向早期警示。

針對性剖析與線上研究

OpenAI 封鎖了使用 ChatGPT 進行客製化、針對性剖析與研究，以識別對 PRC 政府持批評態度的個人或資金來源的使用者。

• 識別批評者： 使用者嘗試利用 ChatGPT 辨識一個批評中國政府的 X 帳號的資金來源，並找出蒙古一項請願的發起人。
• 開源研究： 部分使用者將模型作為開源研究工具，彙整每日與中國相關的即時新聞，包括達賴喇嘛生日與 1989 年天安門廣場屠殺周年等敏感議題。

活動的範圍與限制

OpenAI 表示，這些阻斷針對的是個別使用者，而非模型的大規模、制度性採用。因此，這些發現僅呈現了與威權政權相關的個人可能在此情境下使用 AI 模型的有限快照。在剖析案例中，模型僅回傳公開可得的資訊，未提供如發起人身分或私人資金來源等敏感細節。