OpenAI 诈骗行动报告 2025年10月
OpenAI 已经瓦解了多个起源于柬埔寨、缅甸和尼日利亚的诈骗网络，这些网络利用 ChatGPT 扩大并优化在线欺诈行动。虽然这些行为者使用 AI 提高了现有诈骗剧本的效率，OpenAI 报告称，公众使用 ChatGPT 识别和避免诈骗的频率是其被用于帮助诈骗的三倍。
“Ping、Zing 与 Sting” 欺诈模式
OpenAI 识别出被瓦解的诈骗网络用于欺骗目标的统一三阶段模式：
- Ping（冷接触）: 骗子在互联网上和消息服务中散布 AI 生成或手动的内容，常常利用社交媒体广告来发起联系。
- Zing（情感操控）: 一旦目标回应，骗子会制造对高利润机会的热情或对财务损失的恐惧，以操控目标的情绪。
- Sting（提取）: 最后阶段是说服目标交出金钱或敏感个人信息。
AI 作为现有剧本的扩展工具
大多数被瓦解的行动并未创造全新的 AI 原生欺诈手段，而是将 AI 融入现有诈骗剧本，以提升规模和效率。ChatGPT 的关键用途包括翻译、起草信函、创建社交媒体内容以及进行基础研究。
投资诈骗行动
这些可能起源于柬埔寨和尼日利亚的诈骗行动冒充虚假投资公司。这些行为者使用 AI 来：
- 创建欺诈性网站和在线广告。
- 为冒充交易专家的虚假社交媒体账号生成内容。
- 翻译并生成信函，以诱导受害者进入虚构的交易平台。
缅甸的运营管理
在缅甸，OpenAI 瓦解了一个诈骗中心，该中心不仅将 ChatGPT 用于欺诈计划，还用于内部业务运营。该模型被用于安排日程、起草内部公告、管理财务账户以及分配宿舍和办公桌。一些运营者甚至使用该模型查询与网络诈骗相关的刑事处罚。
高级 AI 应用与角色塑造
虽然许多骗子只执行简单任务，但一些行动在使用 AI 创建可信外壳方面表现出更高的复杂性。
合成角色与对话连续性
一家位于柬埔寨的行动使用 ChatGPT 为虚假投资专家和员工生成详细的传记。随后骗子指示模型以这些特定角色的口吻撰写信息。在某些情况下，他们向模型提供目标的真实信息，并要求 ChatGPT 在保持假角色的前提下继续对话。
编排的群体动态
另一家源自柬埔寨的行动使用批量发送的短信邀请目标加入 WhatsApp 群组。进入后，目标看到多个账号之间编排的对话——包括“投资专家”和几位经验不同的投资者——全部由骗子生成。这些对话从中文一次性翻译，以模拟活跃的交易社区。
目标定位与合规规避
一家可能起源于尼日利亚的投资诈骗行动向 ChatGPT 请求分步建议，内容包括如何通过社交媒体广告接触拉丁美洲的富裕人士、如何掩饰其位置，以及如何通过让模型根据平台公开服务条款审查广告内容来规避平台限制。
规避策略与行业合作
诈骗网络顽强且常在被瓦解后尝试规避检测。OpenAI 观察到多种混淆技术：
- 风格变化: 一些柬埔寨的行动指示模型删除输出中的长破折号，以规避 AI 检测信号。
- 捏造解释: 在 WhatsApp 禁止特定投资群组后，一家与柬埔寨关联的行动生成信息，声称禁令是竞争对手的虚假举报所致，以维持对目标的可信度。
OpenAI 强调行业范围内信息共享的重要性，并提及与 Meta 的合作，以调查并对共享的威胁行为者采取执法行动。