OpenAI 打击针对半导体和学术部门的网络行动

OpenAI 打击与中国关联的网络行动

OpenAI 已禁用了一个由威胁行为者使用的 ChatGPT 账户集，这些账户被用于支持符合中国情报需求的网络行动。行为者主要利用这些模型提升现有工作流的效率，特别是用于制作本地化的网络钓鱼内容和调试常规的恶意软件工具，而非开发全新的攻击能力。

威胁行为者识别与目标定位

OpenAI 将该账户集识别为与行业合作伙伴追踪的威胁组织 UNK_DROPPITCH（Proofpoint）和 UTA0388（Volexity）重叠。在至少一次案例中，用于注册 ChatGPT 账户的电子邮件地址也被用于发送网络钓鱼邮件。

这些行动展示了符合中国情报需求的特征，具体表现为：

  • 语言使用： 大量使用中文。
  • 目标定位： 关注台湾的半导体行业、美国的学术界和智库，以及与批评中共的民族和政治团体相关的组织（所谓的‘五毒’）。

LLM 使用行为分析

威胁行为者使用 ChatGPT 加速日常任务并提升其社会工程和技术工具的质量。他们的开发能力被描述为技术上称职但缺乏复杂性，表现为尽管讨论了 C2 流量的 AES 加密细节，却仍使用简单的静态密钥。

网络钓鱼与社会工程

行为者遵循公式化的作业手册，创建针对性极强的网络钓鱼内容，语言包括英语、日语以及简体和繁体中文。他们使用模型来：

  • 生成简洁、正式礼貌的电子邮件，模拟学术、行业或会议人物的身份。
  • 调整语气并替换地区用语，以提升真实性。
  • 局限性： 尽管做了上述努力，行为者仍未能纠正签名块中不合理的示例联系信息。

工具与恶意软件开发

行为者请求代码片段和检查清单，以加速低至中等成熟度恶意软件的开发。他们的活动包括：

  • C2 基础设施： 起草和修复使用 AES-GCM 加密、会话重新密钥以及系统信息信标的 Go 客户端-服务器代码。他们希望将普通 WebSockets 转为安全 WebSockets（wss://），并将 HTTP 升级为 HTTPS。
  • 进程控制： 使用 Go 和 PowerShell 枚举进程、收集环境信息，并终止特定的 Edge/WebView2 进程。
  • 侦察： 使用 PowerShell 进行防病毒软件探测，并在商业 Linux 基础设施上集成常用扫描器如 nuclei 和 fscan。
  • 作业安全（OPSEC）： 请求简单的混淆调整，例如重命名函数、修改头部以及隐藏字符串，以规避检测。

OpenAI 指出，行为者基于 Go 的开发实现细节与被追踪的恶意软件 GOVERSHELL（Volexity）或 HealthKick（Proofpoint）存在重叠。

对应 LLM ATT&CK 类别

行为者的活动对应多个 LLM ATT&CK 类别，表明他们在利用 AI 进行网络行动时采用了结构化的方法：

  • LLM 优化的载荷构造
  • LLM 增强的异常检测规避
  • LLM 辅助的后渗透活动
  • LLM 辅助的侦察与发现
  • LLM 辅助的社会工程

影响与结论

OpenAI 已禁用所有相关账户，并与行业合作伙伴共享指示器。调查得出结论，这些模型并未为行为者提供全新的攻击能力，因为所有活动均依赖于已有的公开技术。行为者获得的主要优势是语言流畅度、本地化以及在出现故障时快速生成“胶水代码”和调整工具的增量效率。

Sources