ZeroLeaks/zeroleaks

해결하는 문제

ZeroLeaks는 LLM 시스템 프롬프트와 에이전트 지침의 보안을 테스트하기 위해 설계된 레드팀 도구입니다. 개발자가 프롬프트가 추출(프롬프트 자체 유출)이나 인젝션(모델을 속여 지침을 무시하게 하거나 도구를 오용하게 함) 공격에 취약한지 식별하도록 돕습니다.

작동 방식

이 도구는 시스템 프롬프트를 선택한 모델에 로드하고 멀티 에이전트 오케스트레이션 시스템을 사용하여 적대적 공격을 시뮬레이션합니다. 6개의 전문 에이전트(전략가, 공격자, 평가자, 변이 생성자, 검사자, 오케스트레이터)가 협력하여 공격을 계획하고, 대상의 응답을 분석하며, 실시간으로 전술을 조정합니다. 포괄적인 행동 프로브 코퍼스와 Tree of Attacks with Pruning (TAP)과 같은 기술을 사용하여 취약점을 찾아냅니다.

대상 사용자

프로덕션 환경에 배포하기 전에 명령줄이나 TypeScript 라이브러리를 통해 시스템 프롬프트의 취약점을 스캔하려는 개발자와 보안 연구자를 위한 도구입니다.

주요 특징

• 멀티 에이전트 공격: 6개의 에이전트 팀을 사용하여 공격 전략을 동적으로 조정합니다.
• 인젝션 코퍼스: 도구 하이재킹, 간접 인젝션, 권한 남용을 다루는 78개의 행동 프로브가 포함되어 있습니다.
• 규정 준수 판단: 단순한 키워드 검사에 의존하지 않고 LLM 판사를 고용하여 대상이 실제로 공격에 응했는지 판단합니다.
• 유연한 모델 선택: 공격자, 대상, 평가자, 판사 역할에 대해 서로 다른 모델을 지정할 수 있습니다.
• 광범위한 공급자 지원: OpenRouter, OpenAI 및 모든 OpenAI 호환 엔드포인트(예: Ollama, vLLM)에서 작동합니다.
• 멀티 턴 그루밍: 페이로드를 전달하기 전에 여러 턴에 걸쳐 신뢰를 구축하는 복잡한 공격을 시뮬레이션합니다.