microsoft/agent-governance-toolkit

AI Agent Governance Toolkit — Policy enforcement, zero-trust identity, execution sandboxing, and reliability engineering for autonomous AI agents. Covers 10/10 OWASP Agentic Top 10.

What it solves

자율 AI 에이전트가 무단 또는 파괴적인 행동을 수행하는 위험을 해결합니다. 프롬프트 수준의 안전성은 확률적이며 인젝션 공격에 취약하기 때문에, 이 툴킷은 결정론적 집행 레이어를 제공하여 도구 호출 및 메시지를 실행 전에 가로채어 무단 행동을 구조적으로 불가능하게 만들며, 단순히 가능성이 낮은 것이 아닙니다.

How it works

툴킷은 AI 에이전트와 그 도구 사이의 거버넌스 커널 역할을 합니다. YAML, OPA, Cedar 를 지원하는 정책 엔진을 사용해 요청된 모든 행동을 규칙 집합에 대해 평가합니다. 행동이 허용되면 진행되고, 거부되면 GovernanceDenied 오류를 발생시킵니다. 시스템은 또한 SPIFFE/DID 기반 아이덴티티 관리와 변조 방지 감사 로그를 통합하여 어느 에이전트가 어떤 행동을 수행했는지, 왜 허용되었는지를 정확히 추적합니다.

Who it’s for

자율 에이전트를 프로덕션에 배포하는 개발자와 SRE를 위한 것입니다. 엄격한 정책 집행, 규제 준수(예: OWASP Agentic Top 10) 및 다중 에이전트 시스템 전반에 걸친 상세 감사가 필요한 경우에 적합합니다.

Highlights

  • Multi-Language Support: SDKs available for Python, TypeScript, .NET, Rust, and Go.
  • Framework Agnostic: Integrates with major frameworks including Semantic Kernel, AutoGen, LangGraph, CrewAI, and OpenAI Agents SDK.
  • Deterministic Enforcement: Moves safety from the prompt layer to the application code layer to prevent prompt injection bypasses.
  • Comprehensive Tooling: Includes a CLI for OWASP compliance checks, policy linting, and prompt injection auditing.
  • Advanced Governance: Features like execution sandboxing (privilege rings), a kill switch, and an MCP Security Gateway for tool poisoning detection.