Operation False Witness: OpenAI 挫败 AI 驱动的追回诈骗

OpenAI 挫败了一项被称为“Operation False Witness”的欺诈行动，该行动利用 ChatGPT 冒充美国执法部门和法律专业人士，专门针对诈骗受害者进行二次诈骗。该行动可能源自柬埔寨，并与中国背景的犯罪网络有关，利用 AI 生成听起来专业的法律内容和欺骗性凭证，从弱势群体手中骗取钱财。

追回诈骗的执行过程

这些恶意行为者采用了“Ping、Zing 和 Sting”三个阶段的工作流程来识别、诱导并诈骗目标。

1. 初步接触 (Ping)

诈骗者使用 ChatGPT 为至少六家虚构的律师事务所创建宣传内容。这些内容通过社交媒体和在线广告进行传播，以吸引那些试图从之前的诈骗中追回经济损失的个人。欺诈迹象包括：

• 缺乏州律师协会的执业许可。
• 使用不协调的网站域名。
• 联系信息中提供的街道地址不存在。
• 要求仅通过即时通讯软件进行沟通。

2. 建立信任 (Zing)

为了建立信誉，这些行为者使用 ChatGPT 模仿专业律师的职业口吻。他们创建了律师人设，并使用从社交媒体窃取或由 AI 生成的个人资料照片。在某些情况下，同一个律师身份被重复用于不同的虚假律师事务所。该行动还创建了一个冒充 FBI 互联网犯罪投诉中心 (IC3) 的网站，以误导受害者。

3. 财务榨取 (Sting)

一旦建立了信任，诈骗者就会使用 ChatGPT 起草要求预付款的消息。这些欺诈性收费包括：

• 在发放所谓的“追回资金”之前，要求支付 15% 的“服务费”。
• 用于“激活”账户的押金。
• 各种“咨询费”。

受害者被要求通过加密货币发送这些款项，并提供交易截图作为证明。

AI 在欺诈工作流程中的作用

ChatGPT 被整合到该行动的多个阶段，以增强诈骗者所营造的合法性。

沟通与翻译

ChatGPT 最频繁的用途是在私人通讯软件上翻译诈骗者与目标之间的消息。具体而言，行为者要求模型以“美式英语”或律师风格撰写回复，以维持专业的外表。

创建欺骗性材料

部分账户使用 OpenAI 模型生成伪造文件，旨在阻止受害者寻求外部帮助并增强诈骗的可信度，包括：

• 虚假的律师注册记录。
• 伪造的律师协会会员卡（例如：纽约州律师协会）。
• 虚假的保密协议。

影响与归因

虽然 OpenAI 无法独立核实总经济损失，但输入数据表明，个人受害者可能被骗走了数千美元。该行动专门针对弱势群体（包括老年人），利用他们因之前的经济损失而产生的心理痛苦进行诈骗。

FBI 和至少一家被冒充的律师事务所已针对此特定诈骗发布了公开警告。OpenAI 已根据严格禁止将工具用于欺诈或诈骗的政策，封禁了相关账户。