OpenAI 打击与中国政府关联的 AI 滥用于监视和影响

OpenAI 已阻止与中华人民共和国（PRC）政府关联的个人利用 ChatGPT 协助开发监视工具、画像以及官僚职能的活动。这些阻断是更广泛努力的一部分，旨在防止专制政权利用 AI 累积权力并控制公民。

大规模监控工具的开发

与 PRC 政府实体关联的用户尝试使用 ChatGPT 设计并推广用于大规模监控线上线下流量的工具。在这些案例中，模型用于规划和宣传材料，而非实际实施监控。

• Social Media Listening Tools: 一名被封禁的用户可能通过 VPN 从中国访问服务，使用 ChatGPT 设计社交媒体“探针”（probe）的宣传材料和项目计划。该工具旨在扫描包括 Twitter/X、Facebook、Instagram、Reddit、TikTok 和 YouTube 在内的平台，寻找与种族、宗教、政治以及用户所称的“极端言论”相关的内容。
• Travel Warning Systems: 另一名可能与政府实体有关的用户利用 ChatGPT 撰写了“高危涉维吾尔关注人员流入预警模型”（High-Risk Uyghur-Related Inflow Warning Model）的提案。该提议工具旨在分析交通预订并与警方记录对比，以对被归类为“维吾尔相关且高风险”的个人的旅行动向提供早期预警。

定向画像与在线研究

OpenAI 封禁了利用 ChatGPT 进行定制、定向画像和研究，以识别对 PRC 政府持批评态度的个人或资金来源的用户。

• Identifying Critics: 用户尝试使用 ChatGPT 识别批评中国政府的 X 账号的资金来源，并找出蒙古请愿的组织者。
• Open-Source Research: 部分用户将模型用作开源研究工具，汇总与中国相关的每日突发新闻，包括敏感议题如达赖喇嘛生日和 1989 年天安门广场大屠杀纪念日。

活动的范围与局限性

OpenAI 指出，这些阻断针对的是个人用户，而非其模型的大规模、机构性采用。因此，这些发现仅代表了与专制政权关联的个人可能在此情境下使用 AI 模型的有限快照。在画像案例中，模型仅返回公开可得的信息，并未提供组织者身份或私人资金来源等敏感细节。