OpenAI 打击 AI 辅助的浪漫诱骗和屠猪诈骗
OpenAI 已封禁一批由位于柬埔寨的网络使用的 ChatGPT 账户，以协助“屠猪”诈骗。这些行为者利用 AI 翻译对话并生成社交媒体互动，诱导目标参与欺诈性的加密货币和外汇投资。
目标社交媒体互动
该诈骗网络使用 ChatGPT 生成日语、中文和英文的简短评论，以在包括 Facebook、X 和 Instagram 在内的平台上与潜在受害者建立联系。
目标策略
- 人口统计：该行动主要针对40岁以上的男性，尤其是医务人员。
- 兴趣：诈骗者专门针对高尔夫相关的帖子，以提升互动率。
- 视觉欺骗：账户使用年轻女性的头像，OpenAI 评估这些头像是从真实的网红和模特复制的，而非 AI 生成的。
- 策略：评论常以提问结尾以促使回复，有时会针对几个月甚至几年前的帖子。
AI 驱动的角色与对话管理
在最初的公开互动之外，行为者使用 OpenAI 的模型来管理持续的对话并维持虚假角色。
翻译与语调
行为者的主要语言似乎是中文。他们使用模型将信息从中文翻译成日文或英文，反之亦然，以便与不同语言地区的目标进行沟通。
角色生成
诈骗者向模型提供了大量的个人简历信息，以指导 AI 生成回复。这些虚假角色通常包括：
- 具体的姓名、职业、所在地和教育背景。
- 爱好以及对“尝试”在线投资的声明兴趣。
- 特定的“调情的年轻女性”语气。
“屠猪”工作流程
OpenAI 识别出这些行为者用于将目标从初始接触转向金融诈骗的六步工作流程：
- 公开互动：在社交媒体上发布评论（常关于高尔夫），以启动联系。
- 私信交流：将对话转移到私信中，使用 AI 生成的对话评论。
- 安全消息：促使目标转至 WhatsApp、LINE 等安全应用，常以不信任社交媒体或物流原因为借口。
- 浪漫互动：生成日益亲密和充满情感的消息，以建立信任。
- 金融互动：吹嘘加密货币、黄金或外汇投资的高回报，常将成功归功于金融行业的亲属。
- 诈骗：说服受害者将资金转入交易应用，并在受害者尝试提取利润时编造借口（如需缴纳费用）。
影响与基础设施
OpenAI 指出，虽然许多尝试以“未成功”告终，目标识别出诈骗，但也有对话提及数千美元的交易。
使用的工具
该网络使用多种工具来规避检测并管理目标，包括：
- 消息服务：WhatsApp、LINE、X、Facebook、Instagram。
- 隐私工具：Apple 的 “hide my email” 功能。
- 金融平台：各种加密货币和外汇平台。
OpenAI 表示，其政策严格禁止将其工具用于欺诈或诈骗。公司已将有关此被破坏网络的信息分享给行业同行和相关部门。