agent-governance-toolkit: 自律 AI エージェント向けの決定論的ポリシー実施とガバナンス層

解決する課題

AI エージェントは自律的に意思決定を行うことが多く、破壊的なコマンドの実行やデータ漏洩といったセキュリティリスクを招く可能性があります。プロンプトレベルの安全性（「ルールに従ってください」）に依存するのは、モデルがプロンプトインジェクションや敵対的攻撃に対して脆弱であるため信頼できません。このツールキットは、エージェントのアクションが 実行される前 に介入する決定論的な制御層を提供し、禁止されたアクションを「起こりにくい」だけでなく構造的に不可能にします。

仕組み

ツールキットは、AI エージェントとその使用するツールの間に位置するガバナンスカーネルを実装します。エージェントがアクションを試みると、ポリシーエンジンがリクエストをインターセプトし、YAML、OPA、または Cedar で記述された定義済みルールセットに照らして評価します。その後、システムはエージェントのアイデンティティを確認し、改ざん検知可能な監査トレイルに決定を記録します。ポリシーによりアクションが拒否された場合、システムは GovernanceDenied エラーを発生させ、ツールの実行を防止します。

対象ユーザー

本番環境に自律 AI エージェントをデプロイし、厳格なポリシー実施、監査可能性、そして OWASP Agentic AI Top 10 や EU AI Act といった標準へのコンプライアンスが必要な開発者や SRE 向けです。

ハイライト

• マルチ言語サポート: Python、TypeScript、.NET、Rust、Go 用 SDK が利用可能。
• フレームワーク非依存: Semantic Kernel、AutoGen、LangGraph、CrewAI、OpenAI Agents SDK など主要フレームワークと統合。
• 決定論的実施: ブロックされたアクションが実行されないことを保証するフェイルクローズポリシーエンジンを使用。
• 包括的ガバナンススタック: 実行サンドボックス（Agent Runtime）、SLO 監視（Agent SRE）、プロンプトインジェクション監査（PromptDefense Evaluator）用ツールを含む。
• MCP セキュリティゲートウェイ: Model Context Protocol（MCP）サーバーにおけるツール汚染、ドリフト、隠し指示を特定する機能を提供。