Tencent/AI-Infra-Guard

A full-stack AI Red Teaming platform securing AI ecosystems via Agent Scan, Skills Scan, MCP scan, AI Infra scan and LLM jailbreak evaluation.

🤖 AI‑Infra‑Guard (A.I.G) – Tencent のオープンソース AI レッドチームプラットフォーム

概要 – A.I.G は、AI システムのセキュリティテストのための無料かつ Apache‑2.0 ライセンスのスイートです。複数のスキャナー（ClawScan、Agent Scan、MCP Scan、インフラ CVE スキャン、脱獄評価、モデル API リレーチェック）を Web UI と REST API の背後に統合しており、LLM サービス、AI エージェントワークフロー、および基盤となる AI インフラストラクチャを監査できます。

🎯 主要機能

コンポーネント	チェック内容	一般的なターゲット
ClawScan / OpenClaw	不適切な設定、スキルレベルのリスク、情報漏洩	OpenClaw チャットボット、カスタムスキル
Agent Scan	マルチエージェントワークフローの安全性（制御喪失、ツール悪用、権限昇格）	Dify、Coze 等で構築されたエージェント
MCP Scan	モデル制御プレーンサーバーおよびエージェントスキルにおける 14 カテゴリのセキュリティ問題	MCP サーバー、スキルリポジトリ（ソースまたは URL）
AI‑Infra 脆弱性スキャン	AI フレームワークのバージョン特定と 2,000 以上の CVE/GHSA ルールとの照合	Ollama、vLLM、ComfyUI、Triton、n8n 等
脱獄評価	ターゲット LLM に対して多段階の脱獄攻撃を実行し、成功率を報告
モデル & API リレーチェッカー	モデルのフィンガープリント、Claude スタイルの署名検証、ブラックボックスリレー監査

🚀 クイックスタート (Docker)

# クローンして起動 (Docker Compose v2+)
git clone https://github.com/Tencent/AI-Infra-Guard.git && cd AI-Infra-Guard
docker-compose -f docker-compose.images.yml up -d   # 事前構築済みイメージをプル

UI は http://localhost:8088 で利用可能です。

クリーンなマシンへのワンクリックインストール：

curl https://raw.githubusercontent.com/Tencent/AI-Infra-Guard/main/docker.sh | bash

（必要に応じて Docker をインストールし、イメージをプルしてサービスを起動します。）

🛠️ スキャナーの使用方法

インフラスキャン – 実行中の AI サービスの宛先（例：vLLM の http://127.0.0.1:8000）を入力し、Start Scan をクリックします。A.I.G はサービスをフィンガープリントし、一致する CVE を検索して、重大度と修正リンクを含むレポートを返します。
MCP / スキルスキャン – スキルリポジトリの zip をアップロードするか、Git URL を指定します。スキャナーはソースコードを分析し、9 つの SkillTrustBench リスクカテゴリ（命令ハイジャック、メモリポイズニング、リモートコード実行、権限昇格、ツールハイジャック、安全でない依存関係など）をチェックします。
エージェントスキャン – エージェントエンドポイント（または Dify/Coze プロジェクト）を指定すると、変異エンジンが実行され、ツール悪用や意図しないツール呼び出しなどの制御喪失動作を調査します。
脱獄評価 – ターゲットモデルの API キーを設定し、組み込みの脱獄データセットを選択して、多段階攻撃スイート（Many‑Shot, PAIR, GOAT, ActorAttack）を実行します。結果にはモデルごとの成功率が含まれます。
API チェッカー – バンドルされている CLI (./ai-infra-guard api-checker …) を実行して、モデルリレーエンドポイントのフィンガープリントの不一致、バックドアリスク、または PAMELA スタイルの改ざんを監査します。

📦 スキルスキャン CLI の直接インストール

pip install aig-skill-scan
export LLM_API_KEY="your‑key"
aig-skill-scan -m deepseek-v4-flash -l en -o result.json /path/to/skill

この CLI は SkillTrustBench T01‑T09 分類法に従っており、CI/CD パイプラインへの組み込みが容易です。

🌐 エコシステムと統合

ClawHub スキル – aig-scanner、edgeone-clawscan、edgeone-skill-scanner を使用して、任意の OpenClaw チャットボットから A.I.G を呼び出せます。
Swagger / OpenAPI – Web UI にはプログラム利用のための /docs および /api-checker/docs が付属しています。
プラグインフレームワーク – YAML ファイルを data/fingerprints/、data/vuln/、または data/mcp/ に配置して PR を送信することで、新しいフィンガープリントや脆弱性ルールを追加できます。

📚 対象ユーザー

企業：プライベート LLM サービス（セルフホストの vLLM、Ollama、Triton 等）を運用しており、自動化された CVE 監査が必要な組織。
AI エージェント開発者（Dify、Coze、カスタムパイプライン）：エージェントがハイジャックされたり、意図しないツール使用を引き起こしたりしないことを検証したい開発者。
レッドチーマー / セキュリティ研究者：脱獄の堅牢性やモデルリレーの整合性を評価するための既製プラットフォームを探している方。
CI/CD パイプライン：aig-skill-scan CLI をスキルリポジトリの lint ステップとして追加可能。

📖 ドキュメントとコミュニティ

完全なドキュメント：https://tencent.github.io/AI-Infra-Guard/
API リファレンス：http://localhost:8088/docs/index.html
問題追跡、機能リクエスト、貢献ガイドはすべて GitHub リポジトリにあります。
コミュニティチャットとプラグインマーケットプレイスは Matrix プラットフォームでホストされています（README に skill‑market リンクあり）。

🏆 最近のハイライト（2026 年 9 月時点）

v4.6.2 – 40 以上の AI コンポーネントに対する 155 の新しい CVE ルールを追加、スキルスキャンの誤検知処理を改善、制御喪失ベンチマーク（FORGE‑Bench, RogueHandoff‑20）を導入。
v4.6.0 – 初の LLM‑API ポイズニング検出（ブラックボックスモデル置換/バックドア監査）。
v4.5.2 – バイトコード (.pyc) バイパス検出と文字セットスマーグリング防御。

📜 ライセンス

Apache 2.0 – 商用および非商用利用ともに無料。