OpenAI 打击与中国关联的网络行动 Vixen 与 Keyhole Panda

OpenAI 已识别并禁用了与中国关联的威胁行为者 Vixen 与 Keyhole Panda 相关的账户。这些行为者利用 OpenAI 模型协助技术侦察、软件开发以及网络行动的自动化,尽管 OpenAI 未发现模型提供了公共资源中不存在的能力。

技术行为与作业流程

威胁行为者使用 OpenAI 模型进行英文和中文交互,将其活动分为两大类行为子集:

技术研究与侦察

其中一类活动侧重于对特定实体和技术主题的开源研究。这包括使用模型排查系统配置和修改脚本。交互中提到的具体工具包括:

  • reNgine:一个用于 Web 应用的自动化侦察框架。
  • Selenium automation:用于绕过登录机制并捕获授权令牌。

基础设施与支持开发

另一类活动聚焦于支持性工作,包括 Linux 系统管理、基础设施搭建以及软件开发。关键活动包括:

  • System Administration:配置防火墙、名称服务器,并构建离线部署的软件包。
  • Software Development:开发 Web 应用、Android 应用,以及使用 C 和 Golang 编写的软件。
  • Local LLM Deployments:搭建本地 LLM 部署的基础设施,例如 DeepSeek,并配置 VPN 和 Docker 容器部署。

恶意使用案例与内容生成

威胁行为者在多个高风险类别中生成内容,范围从网络渗透到战略研究:

  • Password Bruteforcing:编写脚本对 FTP 服务器进行多用户名密码组合的尝试。
  • Port Scanning:修改并改进脚本,以扫描服务器的特定端口。
  • AI-Driven Penetration Testing:使用 LLM 分析 Nmap 扫描输出并迭代生成新命令,实现渗透测试自动化。
  • Social Media Automation:开发代码管理大量 Android 设备,实现社交媒体自动化操作。
  • Strategic Research:寻找关于美国特种作战司令部、卫星通信、地面站终端位置、政府身份验证卡以及网络设备的公开信息。

映射至 LLM ATT&CK 框架

OpenAI 将观察到的活动映射到 LLM ATT&CK 框架,以对行为者使用的作业技术进行分类:

技术 活动
LLM 辅助漏洞研究 研究漏洞,通过 OpenAI API 生成 AI 辅助的渗透测试脚本,并分析漏洞报告以生成利用负载的思路。
LLM 增强脚本技术 自动化 IP 范围转换、网络侦察脚本编写,以及为 Android 社交媒体操控自动化指挥控制。
LLM 引导的基础设施画像 通过从粘贴的文本中提取 IP 和主机名来描绘网络基础设施。
LLM 建议的战略规划 分析电信基础设施并请求政府身份验证的详细信息。
LLM 优化的负载构造 为恶意软件开发生成代码混淆和防逆向工程技术。
LLM 辅助漏洞研究 研究漏洞并生成 AI 辅助的渗透测试脚本。

影响与缓解措施

OpenAI 已禁用所有与这些活动相关的账户,并将相关指标共享给行业合作伙伴。虽然调查揭示了中国境内威胁行为者的作业流程,但 OpenAI 认为,访问其模型并未为这些行为者提供超出公开资源的全新能力或方向。

Sources