OpenAI 使用 AI 打击与朝鲜（DPRK）关联的网络威胁行为者

OpenAI 已封禁与朝鲜民主主义人民共和国（DPRK）关联的威胁行为者账户，具体包括被称为 VELVET CHOLLIMA（Kimsuky、Emerald Sleet）和 STARDUST CHOLLIMA（APT38、Sapphire Sleet）的组织。这些行为者利用 AI 工具协助开发网络入侵工具、进行侦察并优化社会工程攻击手段。

行为体识别与检测

OpenAI 在收到可信行业合作伙伴的提示后检测到这些账户。这些被封禁的账户展示了与公开报道的 DPRK 关联威胁行为者（尤其是 VELVET CHOLLIMA 和 STARDUST CHOLLIMA）相符的活动模式。

行为模式与 AI 使用

这些威胁行为者使用 OpenAI 的模型进行代码协助、调试以及研究开源安全相关代码。他们的活动主要集中在两个领域：网络入侵行动和加密货币相关议题，这种组合是 DPRK 关联组织的典型特征。

技术性 AI 辅助活动

行为者利用大语言模型（LLM）完成以下具体技术任务：

• LLM-Informed Reconnaissance: 询问各种应用程序中的漏洞。
• LLM-Aided Development: 开发和调试基于 C# 的 RDP 客户端用于暴力攻击，并请求代码以绕过未授权 RDP 访问的安全警告。
• LLM-Enhanced Scripting: 请求 PowerShell 脚本用于 RDP 连接、文件上传/下载、从内存执行代码，以及混淆 HTML 内容以规避异常检测。
• LLM-Optimized Payload Crafting: 讨论创建和部署混淆负载以执行。
• LLM-Assisted Post-Compromise Activity: 研究开源远程管理工具（RAT）。
• LLM-Supported Social Engineering: 寻找针对加密货币投资者和交易者的定向钓鱼方法，以及编写钓鱼邮件以诱导用户泄露敏感信息。

安全影响与缓解措施

OpenAI 报告称，向这些行为者提供的模型生成内容并未带来任何新颖能力，因为提示和查询主要基于已有的开源信息。在许多情况下，模型甚至拒绝响应这些请求。

为中断这些行动，OpenAI 封禁了相关账户并将发现的负载与安全社区共享。在调查行为者尝试调试自动启动可扩展点（ASEP）位置以及针对 macOS 的技术时，OpenAI 识别出此前安全厂商未知的二进制文件分发 URL。通过将这些 URL 提交至在线扫描服务，OpenAI 使安全厂商能够可靠地检测这些二进制文件，从而为潜在受害者提供防护。