OpenAI 打击与中国关联的 SweetSpecter 网络活动
OpenAI 已识别并封禁了与 SweetSpecter 关联的账户，SweetSpecter 被怀疑是一个位于中国的对手，试图利用 ChatGPT 进行攻击性网络行动，同时对 OpenAI 员工和全球政府发动鱼叉式网络钓鱼攻击。这是首次公开确认 SweetSpecter 针对美国 AI 公司进行的攻击案例。
针对 OpenAI 员工的鱼叉式网络钓鱼活动
2024 年 5 月，OpenAI 收到情报显示 SweetSpecter 正在针对其员工的企业和个人电子邮件账户。该对手冒充寻求支持的 ChatGPT 用户，诱骗受害者打开名为 ‘some problems.zip’ 的恶意附件。
攻击的技术执行
攻击链利用恶意 LNK 文件来投递载荷：
- Lure：用户会收到一个包含模拟 ChatGPT 错误和服务信息的 DOCX 文件。
- Payload：在后台，SugarGh0st RAT（远程访问木马）被解密并执行。
- Objective：该恶意软件旨在为对手提供对受感染机器的远程控制，能够执行任意命令、进行数据外泄以及屏幕捕获。
OpenAI 报告称，现有的安全控制成功拦截了这些电子邮件，防止其进入企业收件箱。
基于 LLM 的战术、技术与程序 (TTPs)
OpenAI 打断了一批使用共享基础设施进行漏洞研究和脚本任务的 ChatGPT 账户。这些活动被映射到针对 MITRE ATT&CK® Framework 提出的 LLM 主题战术、技术与程序 (TTPs)。
观察到的对手活动
| 活动 | LLM ATT&CK 框架类别 |
|---|---|
| 询问应用程序漏洞及具体 CVE 编号 | LLM 驱动的侦察 |
| 搜索 Log4j（Log4Shell）的易受攻击版本 | LLM 驱动的侦察 |
| 研究流行的国外内容管理系统 | LLM 驱动的侦察 |
| 询问互联网范围扫描器的创建 | LLM 驱动的侦察 |
| 使用 sqlmap 向目标服务器上传 Web Shell | LLM 辅助的漏洞研究 |
| 寻找针对知名汽车制造商基础设施的漏洞利用 | LLM 辅助的漏洞研究 |
| 编写通信服务以发送短信 | LLM 增强的脚本技术 |
| 调试网络安全工具的扩展 | LLM 增强的脚本技术 |
| 开发用于程序化短信发送的框架 | LLM 辅助开发 |
| 研究针对政府雇员的社会工程主题 | LLM 支持的社会工程 |
| 创建招聘诱饵信息的变体 | LLM 支持的社会工程 |
影响与防御洞察
OpenAI 结论认为，使用 LLM 并未为对手提供他们无法从其他公开资源获得的新能力或新方向。
防御中的 AI 使用
在调查期间，OpenAI 安全团队使用 ChatGPT 对大量对手交互数据进行分析、分类和汇总。公司预计将在未来的模型迭代中用于协助逆向工程和分析恶意附件。
合作的重要性
OpenAI 强调，与行业合作伙伴的协作以及威胁情报的共享对于识别失败的妥协尝试至关重要，这凸显了在 AI 时代集体防御的必要性。