Tencent/AI-Infra-Guard

解決する課題

AI-Infra-Guard (A.I.G) は、企業や個人がAIスタック全体のセキュリティリスクを特定できるように設計された、包括的なAIレッドチーミングプラットフォームです。リモートコード実行、プロンプトインジェクション、APIポイズニングなどの脆弱性を防ぐため、AIインフラストラクチャ、エージェントワークフロー、モデルの堅牢性の自動セキュリティ監査のニーズに対応します。

仕組み

このプラットフォームは、複数の専門的なスキャンおよび評価ツールを単一のインターフェースに統合します：

• AIインフラストラクチャスキャナー：ライブAIサービス（例：vLLM、Ollama、ComfyUI）をフィンガープリントし、2,000以上の既知のCVE脆弱性のライブラリと照合します。
• エージェント＆スキルスキャナー：MCPサーバーやエージェントスキルのソースコードまたはリモートURLを分析し、命令ハイジャック、メモリポイズニング、安全でないコーディングプラクティスなどのリスクを検出します。
• ジェイルブレイク評価：厳選された攻撃データセットと多ターンジェイルブレイク手法（例：Many-Shot、PAIR）を適用してLLMの堅牢性をテストし、プロンプトセキュリティリスクをチェックします。
• APIリレーチェッカー：モデルリレーのブラックボックス監査を実行し、LLM APIポイズニング検出によるモデル置換やバックドアのリスクを検出します。

対象ユーザー

主に、AIエージェントやインフラストラクチャを展開するセキュリティ研究者、AI開発者、企業を対象としており、AIセキュリティ態勢の自己検査を必要としています。

主な特徴

• 広範なカバレッジ：100以上のAIフレームワークコンポーネントと2,000以上のCVEルールをスキャンします。
• 自動エージェント監査：DifyやCozeなどのプラットフォーム上のAIエージェントワークフローを評価する専用ツール。
• 拡張可能なアーキテクチャ：プラグインフレームワークを介して、新しいフィンガープリントルール、脆弱性ルール、ジェイルブレイクデータセットのコミュニティ貢献をサポートします。
• 開発者フレンドリー：モダンなWeb UI、統合のための完全なAPI、CI/CDパイプライン用のスタンドアロンCLIツールを提供します。