OpenAI 打击 AI 辅助任务诈骗网络
OpenAI 已封禁一批由柬埔寨网络用于实施“任务诈骗”的 ChatGPT 账户。这些诈骗者使用 AI 将乌尔都语和英语之间的交流进行翻译，欺骗受害者支付“激活费”，以获取虚假的高薪远程工作。
AI 驱动的社会工程工作流程
该诈骗网络采用了结构化的八步工作流程，将目标从最初接触推进至财务损失。诈骗者使用了两种主要角色：“招聘者”，负责冷启动接触；以及“导师”，负责入职和心理操控。
1. 初始招聘与接触
- 职位发布： 招聘者角色在在线论坛上发布远程工作广告，提供高薪低工的机会，例如每日 300 美元加奖金。
- 招聘： 导师角色通过消息应用（Telegram、WhatsApp、SMS）联系潜在员工，声称为奢侈设计、时尚和旅行品牌工作。分配的任务是提交五星好评，以提升客户评分。
2. 建立信任与心理操控
- 安抚： 当目标表示怀疑时，诈骗者使用 AI 生成信息，声称该工作因公司已有的声誉而合法。某些情况下，他们甚至自称曾被诈骗，以拉近关系。
- 培训： 对任务感兴趣的目标被转移至 Telegram 进行培训。他们获得“培训账户”，每天完成 25-35 条评论任务，账户显示的虚假收益快速增长。
- 激励： 随后向目标提供“特殊”或“终极”评论任务，附加更高奖金，以提升潜在报酬的感知价值。
3. 财务抽取与压力
- 激活费： 当虚假收益达到一定阈值后，导师告知目标必须支付“激活费”才能提取资金。诈骗者催促受害者如有需要向朋友或家人借钱。
- 施压： 若目标犹豫付款，诈骗者会变得咄咄逼人，将受害者与更高效的工作者进行比较，并威胁将失去所有累计收益。
- 借口： 付款后，诈骗者提供各种借口阻止提现，常常要求进一步付款以释放资金。
技术实现与工具
该网络主要使用 ChatGPT 将乌尔都语与英语之间的短评论进行翻译，促进诈骗者与受害者的沟通。此外，诈骗者还使用 AI 模型校对冒充奢侈品牌的网站文本，以提升诈骗的可信度。
通信平台： 该行动主要依赖 Telegram 作为核心平台，辅以 WhatsApp、SMS 和各类招聘论坛。
影响与检测
OpenAI 在收到 Meta 的线报后识别出此活动。虽然部分生成的对话显示目标高度怀疑——暗示整体转化率低——但在线报告和部分对话仍确认受害者确实损失了金钱。
"OpenAI 的政策严格禁止将我们的工具输出用于欺诈或诈骗。我们致力于与行业同行和主管部门合作，了解 AI 如何影响对抗性行为，并积极打击滥用我们服务的诈骗活动。"
OpenAI 已将有关此被阻断网络的信息分享给行业同行和相关部门，以提升整体安全。