OpenAI 打击韩语恶意软件开发行动

OpenAI 已识别并封禁了一批被韩语运营者用于进行恶意软件和指挥控制（C2）开发的 ChatGPT 账户。此举打断了利用 AI 进行网络行动的协同努力，尽管 OpenAI 未发现这些模型提供了超出公开可用能力的功能。

威胁行为者识别与归属

OpenAI 观察到一批账户的活动与 Trellix 报告中针对韩国外交使团的鱼叉式钓鱼活动、XenoRAT 恶意软件的部署以及使用基于 GitHub 的仓库进行 C2 的情况相吻合。

虽然观察到的活动——包括使用韩语、运营主题以及与 UTC+8、UTC+9 时区相符的活动——与安全社区对朝鲜（DPRK）行为者的认知相一致，但 OpenAI 表示无法独立进行归属，并继续对朝鲜的服务实施封锁。

运营者采用了结构化的工作流，在狭窄的时间窗口内活跃多个账户，每个账户专注于特定的技术用例，而非覆盖多个领域。关键行为包括：

基础设施和平台实验： 这些行为者尝试了 API 脚本编写以及针对包括 GDrive、pCloud 和 file.io 在内的云存储服务的直链构建，同时通过 GitHub 进行原始内容检索和令牌处理。
凭证窃取与 API 钩子： 与模型的交互聚焦于 Windows API 钩子、使用 DPAPI 的浏览器凭证和 Cookie 访问工作流，以及创建类似 reCAPTCHA 的验证页面克隆。
钓鱼活动： 行为者撰写了以加密货币、政府机构和金融服务提供商为主题的韩语钓鱼邮件。

威胁行为者生成模型输出以支持五个主要运营领域：

运营者探索了反射 DLL 加载、内存执行以及 Windows API 钩子技术，以支持远程访问特洛伊木马（RAT）开发。

运营者生成、修改并调试脚本，以提取浏览器加密密钥、Cookie 和已保存的密码，特别是使用 Chrome 和 Edge 的 DPAPI 工作流。

行为者尝试 HTML 混淆和 reCAPTCHA 代理，以创建可信的登录页面，并撰写加密货币主题的钓鱼内容。

请求集中于 Safari 和 Finder 扩展的开发以及生成示例 App Store 隐私政策。

运营者使用模型来排查 API 调用和钱包交互问题。

OpenAI 已禁用所有相关账户并与合作伙伴共享指示器。OpenAI 指出，许多请求属于“双重用途活动的灰色地带”，即合法的软件调试或密码学任务被重新用于恶意目的。关键是，公司未发现 Trellix 所描述的活动中使用的恶意二进制文件是由 OpenAI 的模型生成的。