rogue-security/rogue
AI Agent Evaluator & Red Team Platform
何を解決するか
Rogue は、AIエージェントの展開前にセキュリティと評価を徹底的に検証するためのプラットフォームです。AIエージェントがビジネスポリシーを違反したり、悪意ある攻撃に遭ってセキュリティ上の脆弱性を引き起こすのを防ぎます。
動作方法
このプラットフォームはクライアント-サーバー構造を採用し、複数のプロトコル（A2A、MCP、または直接的なPython呼び出し）を通じてAIエージェントを検証します。主に以下の2つのモードで動作します：
- 自動評価：事前に定義されたビジネスポリシーとシナリオに基づいてエージェントをテストし、コンプライアンスと期待される動作を確認します。
- レッドチーム：75以上の脆弱性と20以上の攻撃手法（プロンプトインジェクションやソーシャルエンジニアリングなど）を用いて悪意ある攻撃をシミュレートし、セキュリティ上の隙を発見します。
結果は「ジャッジLLM」によって分析され、CVSSベースのリスクシステムでスコア付けされ、脆弱性の深刻度が判定されます。
対象ユーザー
AIエージェントの挙動を検証し、ペネトレーションテストを実施し、OWASP、MITRE ATLAS、EU AI Actなどのフレームワークに準拠していることを確認したい開発者やセキュリティ監査担当者。
特徴
- 包括的なレッドチーム機能：12のカテゴリにまたがる75以上の脆弱性と20以上の攻撃手法を含む。
- 柔軟な統合：GoogleのAgent-to-Agent（A2A）プロトコル、Model Context Protocol（MCP）、および直接的なPythonエントリポイントをサポート。
- コンプライアンス対応：NIST AI RMF、GDPR、ISO/IEC 42001などの業界標準と整合。
- 複数のインターフェース：インタラクティブなテスト用のTUI、CI/CDパイプライン用のCLI、およびスタンドアロンサーバーを提供。
- 決定論的テスト：再現可能なセキュリティスキャンのためのランダムシードをサポート。
関連
- プロジェクト
Tencent/AI-Infra-GuardAI‑Infra‑Guard (A.I.G) は、AI サービスのレッドチーム安全テストのためのオープンソースで Docker デプロイ可能なプラットフォームです。ライブ LLM エンドポイント、AI エージェントワークフロー、およびモデル制御プレーンコードの CVE、脱獄（ジェイルブレイク）の脆弱性、エージェントの制御喪失リスクをスキャンし、Web UI および REST API を通じて結果を公開します。
- プロジェクト
AISecurityLab/hackagentHackAgentは、AIエージェントのレッドチームによるセキュリティテストを自動化するオープンソースのPython SDK/CLIです。OpenAI、LangChain、LiteLLM、またはGoogle ADKで構築されたエージェントに対して、既知の攻撃（プロンプトインジェクション、ジェイルブレイク、ゴールハイジャック、ツール悪用）のライブラリを実行します。LLMが生成した敵対的プロンプトと判定用LLMを使用して脆弱性を検出します。結果はローカル（SQLite）に保存されるか、クラウドダッシュボードに同期され、pipまたはスタンドアロンバイナリとしてインストール可能です。
- プロジェクト
Kritt-ai/open-krittopen·kritt は、Codex、Claude Code、Grok Build などによるAIエージェントをオーケストレーションするオープンソースで自己ホスティング可能なプラットフォームであり、コードリポジトリ上でカスタムでプロンプト駆動のセキュリティワークフローを実行します。焦点を絞ったタスクを構築し、並列でDockerコンテナ内で実行し、発見結果を検証・重複除去・順位付けし、完全なレポートバンドルをエクスポートします。バグバウンティ研究者とDevSecOps向けに設計されており、Web UIとヘッドレスCLIを提供し、任意のモデルプロバイダーに対応し、AGPL-3.0ライセンスで公開されています。
- プロジェクト
devchilll/scopeエンタープライズAIエージェント向けの本番対応ガバナンスフレームワークで、安全ガードレール、コンプライアンスルール、IAM、ヒューマンインザループのエスカレーションを実装します。
- プロジェクト