microsoft/agent-governance-toolkit
AI Agent Governance Toolkit — Policy enforcement, zero-trust identity, execution sandboxing, and reliability engineering for autonomous AI agents. Covers 10/10 OWASP Agentic Top 10.
What it solves
自律 AI エージェントが未承認または破壊的な操作を行うリスクに対処します。プロンプトレベルの安全性は確率的でインジェクション攻撃に弱いため、このツールキットは決定論的な執行層を提供し、ツール呼び出しやメッセージが実行される前にインターセプトして、未承認の操作を「起こり得ない」ものにします。
How it works
ツールキットは AI エージェントとそのツール間のガバナンスカーネルとして機能します。YAML、OPA、Cedar をサポートするポリシーエンジンで、要求されたすべてのアクションをルールセットに照らし合わせて評価します。許可された場合は実行され、拒否された場合は GovernanceDenied エラーを発生させます。システムはさらに SPIFFE/DID によるアイデンティティ管理と改ざん検知可能な監査ログを統合し、どのエージェントがどのアクションを実行したか、なぜ許可されたかを正確に追跡します。
Who it’s for
自律エージェントを本番環境にデプロイする開発者や SRE 向けです。厳格なポリシー執行、規制コンプライアンス（例: OWASP Agentic Top 10）、マルチエージェントシステム全体での詳細な監査が必要な方に最適です。
Highlights
- Multi-Language Support: SDKs available for Python, TypeScript, .NET, Rust, and Go.
- Framework Agnostic: Integrates with major frameworks including Semantic Kernel, AutoGen, LangGraph, CrewAI, and OpenAI Agents SDK.
- Deterministic Enforcement: Moves safety from the prompt layer to the application code layer to prevent prompt injection bypasses.
- Comprehensive Tooling: Includes a CLI for OWASP compliance checks, policy linting, and prompt injection auditing.
- Advanced Governance: Features like execution sandboxing (privilege rings), a kill switch, and an MCP Security Gateway for tool poisoning detection.