KeyValueSoftwareSystems/agent-opfor

해결하는 문제

Opfor는 AI 에이전트, LLM 애플리케이션, MCP 서버를 적대적으로 테스트하기 위해 설계된 적대적 에뮬레이션 도구입니다. 개발자와 보안 팀이 프롬프트 인젝션, 점프브레이크, 도구 오용, 민감한 데이터 유출 등의 취약점을 실제 운영 환경에 배포하기 전에 식별할 수 있도록 도와줍니다.

작동 방식

Opfor는 업계 표준(예: OWASP)을 기반으로 타겟 에이전트에 맞춰 타겟된 적대적 프롬프트를 생성하여 현실 세계의 공격을 시뮬레이션합니다. 이후 이 공격을 타겟 에이전트에 실행하고 응답을 캡처한 후, LLM 기반의 판정기(Judge)가 각 시도를 성공 또는 실패로 분류하고 상세한 이유를 제공합니다. 또한 Langfuse나 Netra와 같은 관측 스택과 통합하여 최종 출력뿐만 아니라 내부 도구 호출과 추론 단계까지 분석할 수 있습니다.

대상 사용자

• 엔지니어 및 DevOps: CLI 또는 SDK를 사용해 CI/CD 파이프라인에 적대적 테스트를 통합.
• 프로덕트 매니저 및 QA: 브라우저 확장 프로그램을 사용해 코드 작성 없이 배포된 챗봇을 테스트.
• 보안 분석가: 커리레이티드 OWASP 스위트를 사용해 준수성과 안전성을 보장.
• AI 개발자: MCP 서버 모드를 사용해 자신의 코딩 에이전트가 다른 에이전트를 테스트하도록 구성.

주요 특징

• 포괄적인 커버리지: OWASP LLM Top 10, Agentic AI Top 10, MCP Top 10, API 보안, EU AI Act 편향에 대한 커리레이티드 스위트 포함.
• 다양한 접근 방식: CLI, 브라우저 확장 프로그램, MCP 서버, IDE 스킬, TypeScript SDK로 제공.
• uma 자율적 적대적 테스트: opfor hunt 명령어는 지휘관, 운영자, 스카우트로 구성된 다중 에이전트 시스템을 사용해 자율적으로 리콘 및 적응형 공격 캠페인을 수행.
• 트레이스 인식 테스트: 텔레메트리 제공자와 통합하여 최종 응답에는 나타나지 않지만 내부 도구 호출에서 발생하는 유출을 탐지.
• 투명한 보고서: 모든 공격 프롬프트와 판정 결과를 포함한 전체 로그를 제공하는 HTML 및 JSON 보고서 생성. 테스트 비용(토큰 사용량)에 대한 분석도 포함.