Tencent/AI-Infra-Guard

A full-stack AI Red Teaming platform securing AI ecosystems via Agent Scan, Skills Scan, MCP scan, AI Infra scan and LLM jailbreak evaluation.

🤖 AI‑Infra‑Guard (A.I.G) – 텐센트(Tencent)의 오픈 소스 AI 레드팀 플랫폼

소개 – A.I.G는 AI 시스템의 보안 테스트를 위한 무료 Apache‑2.0 라이선스 제품군입니다. 여러 스캐너(ClawScan, Agent Scan, MCP Scan, 인프라 CVE 스캔, 탈옥 평가, 모델 API 릴레이 검사)를 웹 UI 및 REST API 뒤에 통합하여 LLM 서비스, AI 에이전트 워크플로우 및 기본 AI 인프라를 감사할 수 있습니다.

🎯 핵심 기능

구성 요소	검사 항목	일반적인 대상
ClawScan / OpenClaw	보안되지 않은 설정, 스킬 수준 위험, 개인정보 유출	OpenClaw 챗봇, 사용자 정의 스킬
Agent Scan	다중 에이전트 워크플로우 안전성(제어 상실, 도구 오용, 권한 상승)	Dify, Coze 등으로 구축된 에이전트
MCP Scan	모델 제어 평면 서버 및 에이전트 스킬의 14가지 보안 문제	MCP 서버, 스킬 저장소(소스 또는 URL)
AI‑Infra 취약점 스캔	AI 프레임워크 버전 식별 및 2,000개 이상의 CVE/GHSA 규칙 매칭	Ollama, vLLM, ComfyUI, Triton, n8n 등
탈옥 평가	대상 LLM에 대해 다회차 탈옥 공격을 실행하고 성공률 보고
모델 & API 릴레이 검사기	모델 지문 식별, Claude 스타일 서명 검증, 블랙박스 릴레이 감사

🚀 빠른 시작 (Docker)

# 복제 및 시작 (Docker Compose v2+)
git clone https://github.com/Tencent/AI-Infra-Guard.git && cd AI-Infra-Guard
docker-compose -f docker-compose.images.yml up -d   # 사전 빌드된 이미지 풀

UI는 http://localhost:8088 에서 이용 가능합니다.

새 머신에 원클릭 설치:

curl https://raw.githubusercontent.com/Tencent/AI-Infra-Guard/main/docker.sh | bash

(필요 시 Docker를 설치하고 이미지를 풀링한 후 서비스를 시작합니다.)

🛠️ 스캐너 사용 방법

인프라 스캔 – 실행 중인 AI 서비스 주소(예: vLLM의 http://127.0.0.1:8000)를 입력하고 Start Scan을 클릭합니다. A.I.G는 서비스 지문을 식별하고 일치하는 CVE를 조회하여 심각도 및 수정 링크가 포함된 보고서를 반환합니다.
MCP / 스킬 스캔 – 스킬 저장소의 zip 파일을 업로드하거나 Git URL을 제공합니다. 스캐너는 소스 코드를 분석하여 9가지 SkillTrustBench 위험 범주(명령 하이재킹, 메모리 오염, 원격 코드 실행, 권한 상승, 도구 하이재킹, 보안되지 않은 종속성 등)를 확인합니다.
에이전트 스캔 – 도구를 에이전트 엔드포인트(또는 Dify/Coze 프로젝트)로 지정하면 변이 엔진이 실행되어 도구 오용이나 의도하지 않은 도구 호출과 같은 제어 상실 동작을 탐색합니다.
탈옥 평가 – 대상 모델의 API 키를 설정하고 내장된 탈옥 데이터 세트를 선택하여 다회차 공격 제품군(Many‑Shot, PAIR, GOAT, ActorAttack)을 실행합니다. 결과에는 모델별 성공률이 포함됩니다.
API 검사기 – 번들된 CLI (./ai-infra-guard api-checker …)를 실행하여 모델 릴레이 엔드포인트의 지문 불일치, 백도어 위험 또는 PAMELA 스타일의 변조를 감사합니다.

📦 스킬 스캔 CLI 직접 설치

pip install aig-skill-scan
export LLM_API_KEY="your‑key"
aig-skill-scan -m deepseek-v4-flash -l en -o result.json /path/to/skill

이 CLI는 SkillTrustBench T01‑T09 분류법을 따르며 CI/CD 파이프라인에 쉽게 포함할 수 있습니다.

🌐 생태계 및 통합

ClawHub 스킬 – aig-scanner, edgeone-clawscan, edgeone-skill-scanner를 사용하여 모든 OpenClaw 챗봇에서 A.I.G를 호출할 수 있습니다.
Swagger / OpenAPI – 웹 UI는 프로그래밍 방식으로 사용할 수 있도록 /docs 및 /api-checker/docs를 제공합니다.
플러그인 프레임워크 – YAML 파일을 data/fingerprints/, data/vuln/ 또는 data/mcp/에 넣고 PR을 제출하여 새로운 지문이나 취약점 규칙을 추가할 수 있습니다.

📚 권장 사용자

기업: 사설 LLM 서비스(자체 호스팅 vLLM, Ollama, Triton 등)를 운영하며 자동화된 CVE 감사가 필요한 조직.
AI 에이전트 개발자(Dify, Coze, 사용자 정의 파이프라인): 에이전트가 하이재킹되거나 의도하지 않은 도구 사용을 유발하지 않음을 검증하려는 개발자.
레드팀 / 보안 연구원: 탈옥 견고성과 모델 릴레이 무결성을 평가하기 위한 기성 플랫폼을 찾는 연구원.
CI/CD 파이프라인: aig-skill-scan CLI를 스킬 저장소의 lint 단계로 추가 가능.

📖 문서 및 커뮤니티

전체 문서: https://tencent.github.io/AI-Infra-Guard/
API 참조: http://localhost:8088/docs/index.html
문제 추적, 기능 요청 및 기여 가이드는 모두 GitHub 저장소에 있습니다.
커뮤니티 채팅 및 플러그인 마켓플레이스는 Matrix 플랫폼에서 호스팅됩니다(README에 skill‑market 링크 포함).

🏆 최근 하이라이트 (2026년 9월 기준)

v4.6.2 – 40개 이상의 AI 구성 요소에 대한 155개의 새로운 CVE 규칙 추가, 스킬 스캔 오탐 처리 개선, 제어 상실 벤치마크(FORGE‑Bench, RogueHandoff‑20) 도입.
v4.6.0 – 최초의 LLM‑API 오염 탐지(블랙박스 모델 대체/백도어 감사).
v4.5.2 – 바이트코드(.pyc) 우회 탐지 및 문자 집합 스머글링 방어.

📜 라이선스

Apache 2.0 – 상업적 및 비상업적 용도로 무료 사용 가능.