OpenAI 打击俄语恶意软件工具运营
OpenAI 已禁用一批由俄语犯罪团伙使用的 ChatGPT 账户，这些账户用于开发和完善恶意软件，包括远程访问木马（RATs）和凭据窃取器。此举打断了威胁行为者利用模型原型化恶意软件技术构件的工作流程，尽管模型内置的安全防护会拒绝直接的恶意内容请求。
技术行为与方法论
威胁行为者使用 ChatGPT 生成“构件块”代码，而非完整的恶意载荷。由于模型拒绝直接创建恶意软件的请求，操作人员在低层技术任务上反复迭代，以在平台外组装自己的恶意工作流。
- Low-level Windows Platform Knowledge: 行为者专注于 PE / Win32 API、DPAPI / AES GCM Cookie 处理，以及 Chrome DevTools / CDP 自动化。
- Obfuscation and Evasion: 行为者生成用于“crypter”模式的代码，例如插入垃圾序列和填充指令以更改 PE 签名，从而规避防病毒（AV）或端点检测与响应（EDR）系统。
- Post-Exploitation Tooling: 操作人员使用模型原型化剪贴板监控、归档与发送脚本以及用于数据外泄的 Telegram 机器人上传器等组件。
- Operational Support: 行为者利用模型执行日常任务，包括批量密码生成和脚本化的求职申请。
恶意软件组件与 LLM ATT&CK 映射
威胁行为者的活动已映射到 LLM ATT&CK 框架，以对其尝试构建的具体进攻能力进行分类：
| 活动 | LLM ATT&CK 框架类别 |
|---|---|
| 将 EXE 转换为位置无关的 shellcode；构建内存加载器（VirtualAlloc / WriteProcessMemory / 远程线程）；进行加载器工具链的语言转换。 | LLM-优化载荷构造 |
| 插入混淆/打包层、crypter 以及相关技术，以隐藏载荷免受 AV/EDR 检测。 | LLM-增强异常检测规避 |
| 生成脚本以提取/解密浏览器凭据和 Cookie，解析钱包 LevelDB，监控或替换剪贴板内容，并通过 Telegram 机器人渠道进行数据外泄。 | LLM-辅助的后渗透活动 |
| 构建和完善 C2 与隧道基础设施，包括反向代理、SOCKS5 / OpenVPN 配置以及远程桌面隧道。 | LLM-辅助的基础设施画像 |
行动范围与影响
OpenAI 已禁用所有与此活动相关的账户，并与行业合作伙伴共享了指示器。调查发现，模型的安全防护成功阻止了对漏洞利用和键盘记录器的直接请求。
OpenAI 结论认为，访问 ChatGPT 并未为这些行为者提供“他们无法从多个公开资源获得的全新能力或方向”。
行为者归属
OpenAI 评估认为，此活动由使用多个账户、代理和短暂托管基础设施的俄语运营者管理，并在专门面向俄语犯罪团伙的 Telegram 频道中发布其活动证据。