OpenAI 打击与中国关联的网络行动 Vixen 与 Keyhole Panda
OpenAI 已识别并禁用了与中国关联的威胁行为者 Vixen 与 Keyhole Panda 相关的账户。这些行为者利用 OpenAI 模型协助技术侦察、软件开发以及网络行动的自动化,尽管 OpenAI 未发现模型提供了公共资源中不存在的能力。
技术行为与作业流程
威胁行为者使用 OpenAI 模型进行英文和中文交互,将其活动分为两大类行为子集:
技术研究与侦察
其中一类活动侧重于对特定实体和技术主题的开源研究。这包括使用模型排查系统配置和修改脚本。交互中提到的具体工具包括:
- reNgine:一个用于 Web 应用的自动化侦察框架。
- Selenium automation:用于绕过登录机制并捕获授权令牌。
基础设施与支持开发
另一类活动聚焦于支持性工作,包括 Linux 系统管理、基础设施搭建以及软件开发。关键活动包括:
- System Administration:配置防火墙、名称服务器,并构建离线部署的软件包。
- Software Development:开发 Web 应用、Android 应用,以及使用 C 和 Golang 编写的软件。
- Local LLM Deployments:搭建本地 LLM 部署的基础设施,例如 DeepSeek,并配置 VPN 和 Docker 容器部署。
恶意使用案例与内容生成
威胁行为者在多个高风险类别中生成内容,范围从网络渗透到战略研究:
- Password Bruteforcing:编写脚本对 FTP 服务器进行多用户名密码组合的尝试。
- Port Scanning:修改并改进脚本,以扫描服务器的特定端口。
- AI-Driven Penetration Testing:使用 LLM 分析 Nmap 扫描输出并迭代生成新命令,实现渗透测试自动化。
- Social Media Automation:开发代码管理大量 Android 设备,实现社交媒体自动化操作。
- Strategic Research:寻找关于美国特种作战司令部、卫星通信、地面站终端位置、政府身份验证卡以及网络设备的公开信息。
映射至 LLM ATT&CK 框架
OpenAI 将观察到的活动映射到 LLM ATT&CK 框架,以对行为者使用的作业技术进行分类:
| 技术 | 活动 |
|---|---|
| LLM 辅助漏洞研究 | 研究漏洞,通过 OpenAI API 生成 AI 辅助的渗透测试脚本,并分析漏洞报告以生成利用负载的思路。 |
| LLM 增强脚本技术 | 自动化 IP 范围转换、网络侦察脚本编写,以及为 Android 社交媒体操控自动化指挥控制。 |
| LLM 引导的基础设施画像 | 通过从粘贴的文本中提取 IP 和主机名来描绘网络基础设施。 |
| LLM 建议的战略规划 | 分析电信基础设施并请求政府身份验证的详细信息。 |
| LLM 优化的负载构造 | 为恶意软件开发生成代码混淆和防逆向工程技术。 |
| LLM 辅助漏洞研究 | 研究漏洞并生成 AI 辅助的渗透测试脚本。 |
影响与缓解措施
OpenAI 已禁用所有与这些活动相关的账户,并将相关指标共享给行业合作伙伴。虽然调查揭示了中国境内威胁行为者的作业流程,但 OpenAI 认为,访问其模型并未为这些行为者提供超出公开资源的全新能力或方向。