OpenAI 行动 ScopeCreep：扰乱俄语恶意软件开发

OpenAI 已封禁一批由俄语威胁行为者使用的 ChatGPT 账户，这些账户用于开发和完善 Windows 恶意软件、调试代码以及建立指挥控制（C2）基础设施。该行动被命名为 “ScopeCreep”，展示了威胁行为者如何尝试利用大型语言模型（LLMs）加速恶意软件开发周期，同时采用严格的作业安全以规避检测。

恶意软件分发与执行

ScopeCreep 通过在公共代码仓库中冒充名为 “Crosshair‑X” 的流行游戏工具来分发其恶意软件。下载了恶意版本的用户会触发加载器，该加载器会从攻击者的基础设施下载并执行额外的恶意文件。

一旦执行，恶意软件会遵循多阶段流程，旨在实现以下目标：

  • 特权提升： 提升系统权限以获得更深层访问。
  • 持久性： 建立隐蔽机制以保持在系统中。
  • 数据外泄： 窃取敏感数据并通过 Telegram 通知攻击者。
  • 规避： 通过各种技术手段避免被检测。

技术能力与规避技术

虽然 OpenAI 指出 ScopeCreep 的能力并不特别新颖，但该恶意软件采用了一系列复杂的规避和执行技术：

  • DLL 侧加载： 用于隐蔽执行。
  • 自定义加壳： 使用 Themida 进行混淆。
  • C2 负载： 旨在规避基于签名的检测。
  • 网络混淆： 通过端口 80 使用 HTTPS 以及基于代理的流量混淆。
  • 凭证窃取： 目标为会话和凭证数据。

LLM 辅助开发模式

威胁行为者迭代使用 ChatGPT，请求具体功能实现和调试帮助。为保持作业安全，行为者使用临时邮箱为每一次代码的增量改进创建新账户，并在一次对话后放弃该账户。

OpenAI 将这些活动映射到 LLM ATT&CK 框架，识别出模型辅助开发的五个关键领域：

  • LLM 辅助开发： 编译 python310.dll 以确保每次运行 python.exe 时代码能够执行；排查端口 80 上 HTTPS 流量的 SSL/TLS 证书问题；以及将基于 Flask 的 C2 服务器迁移到生产就绪的 WSGI 服务器。
  • LLM 增强的异常检测规避： 在 Go 中开发 PowerShell 命令，以编程方式向 Windows Defender 设置添加防病毒（AV）排除项。 -- LLM 辅助的后渗透活动： 调试用于在新受害者被妥协后向攻击者控制的 Telegram 频道发送通知的代码。

检测与缓解

OpenAI 通过其规模化网络滥用检测流程发现了该活动。通过与代码托管服务提供商协调，删除恶意仓库并封禁所有相关的 ChatGPT 账户，从而对威胁进行缓解。

虽然该恶意软件样本出现在 VirusTotal 上，OpenAI 报告称没有证据表明其有广泛分发或受到关注。行为者尝试使用 LLM 加速开发，为 OpenAI 提供了一个矛盾的机会，使其能够在早期阶段识别并破坏该行动。

Sources