ZeroLeaks/zeroleaks

解决的问题

ZeroLeaks 是一款红队测试工具，专为测试 LLM 系统提示词与代理指令的安全性而设计。它能协助开发者识别提示词是否容易受到提取（泄露提示词本身）或注入（诱骗模型忽略指令或滥用工具）攻击。

运作原理

该工具将系统提示词载入至选定的模型中，并利用多代理协调系统模拟对抗性攻击。六个专业代理（策略师、攻击者、评估者、变异者、检查员与协调者）协同合作，实时规划攻击、分析目标响应并调整策略。它使用全面的行为探测语料库以及如 Tree of Attacks with Pruning (TAP) 等技术来发掘漏洞。

适用对象

专为希望在部署至生产环境前，通过命令行或 TypeScript 库扫描系统提示词漏洞的开发者与安全研究人员所设计。

特色亮点

• 多代理攻击：使用六个代理组成的团队来动态调整攻击策略。
• 注入语料库：包含 78 个行为探测，涵盖工具劫持、间接注入与权限滥用。
• 合规性判断：聘请 LLM 评委来判定目标是否确实遵守了攻击指令，而非仅依赖简单的关键字检查。
• 灵活的模型选择：允许用户为攻击者、目标、评估者与评委角色指定不同的模型。
• 广泛的供应商支持：适用于 OpenRouter、OpenAI 以及任何兼容 OpenAI 的端点（例如 Ollama、vLLM）。
• 多轮引导：模拟复杂的攻击，在发送有效载荷前通过多轮对话建立信任关系。