Tencent/AI-Infra-Guard

해결하는 문제

AI-Infra-Guard (A.I.G)는 기업과 개인이 AI 스택 전반의 보안 위험을 식별할 수 있도록 설계된 포괄적인 AI 레드 팀 플랫폼입니다. 원격 코드 실행, 프롬프트 인젝션, API 중독과 같은 취약점을 방지하기 위해 AI 인프라, 에이전트 워크플로, 모델 견고성에 대한 자동화된 보안 감사 요구를 해결합니다.

작동 방식

이 플랫폼은 여러 전문 스캔 및 평가 도구를 단일 인터페이스로 통합합니다:

• AI 인프라 스캐너: 라이브 AI 서비스(예: vLLM, Ollama, ComfyUI)를 핑거프린팅하고 2,000개 이상의 알려진 CVE 취약점 라이브러리와 매칭합니다.
• 에이전트 및 스킬 스캐너: MCP 서버 또는 에이전트 스킬의 소스 코드나 원격 URL을 분석하여 명령 하이재킹, 메모리 중독, 안전하지 않은 코딩 관행과 같은 위험을 감지합니다.
• 젤브레이크 평가: 선별된 공격 데이터셋과 다중 턴 젤브레이크 방법(예: Many-Shot, PAIR)을 적용하여 LLM의 견고성을 테스트하고 프롬프트 보안 위험을 확인합니다.
• API 릴레이 체커: 모델 릴레이의 블랙박스 감사를 수행하여 LLM API 중독 탐지를 통해 모델 대체 또는 백도어 위험을 감지합니다.

대상 사용자

주로 AI 에이전트와 인프라를 배포하는 보안 연구원, AI 개발자, 기업을 대상으로 하며, AI 보안 태세에 대한 자체 점검이 필요합니다.

주요 기능

• 광범위한 커버리지: 100개 이상의 AI 프레임워크 구성 요소와 2,000개 이상의 CVE 규칙을 스캔합니다.
• 자동화된 에이전트 감사: Dify 및 Coze와 같은 플랫폼에서 AI 에이전트 워크플로를 평가하는 전용 도구.
• 확장 가능한 아키텍처: 플러그인 프레임워크를 통해 새로운 핑거프린트 규칙, 취약점 규칙, 젤브레이크 데이터셋에 대한 커뮤니티 기여를 지원합니다.
• 개발자 친화적: 현대적인 웹 UI, 통합을 위한 완전한 API, CI/CD 파이프라인용 독립형 CLI 도구를 제공합니다.