AI Agent Governance Toolkit — Policy enforcement, zero-trust identity, execution sandboxing, and reliability engineering for autonomous AI agents. Covers 10/10 OWASP Agentic Top 10.

Agent Governance Toolkit – 빠르고 쉬운 개요

What it is – Microsoft가 유지 관리하는 오픈소스 라이브러리로, 자율 AI 에이전트를 프로덕션 환경에서 실행하면서 결정론적이고 감사 가능한 정책을 적용할 수 있습니다. 에이전트와 에이전트가 사용하려는 도구/서비스 사이에 위치하여 모든 요청을 YAML/OPA 스타일 정책에 대해 확인하고, 결정을 기록하고, 선택적으로 호출을 차단합니다.

왜 필요한가

정책 적용 – 데이터베이스를 읽을 수 있는 에이전트가 DROP TABLE과 같은 파괴적인 명령을 실행하지 못하도록 방지합니다.
귀속 – 다중 에이전트 시스템에서 특정 에이전트(또는 특정 API 키)가 어떤 작업을 수행했는지 식별합니다.
감사 가능성 – 규제 기관이나 내부 감사자가 검사할 수 있는 변조 방지 로그를 생성합니다.

이 도구 키트는 LLM 프롬프트 외부에서 이 작업을 수행하므로 보호는 확률론적 프롬프트 수준 안전에 의존하지 않고 결정론적입니다.

핵심 개념 (“파이프라인”)

Agent ──► Policy Engine ──► Identity ──► Audit Log
            (YAML/OPA/Cedar)   (SPIFFE/DID/mTLS)   (tamper‑evident)

정책 엔진 – 정책 파일을 평가하고 allow, deny 또는 require_approval을 반환합니다.
아이덴티티 – 요청을 특정 에이전트에 연결하는 선택적 SPIFFE/DID/mTLS 자격 증명.
감사 로그 – 모든 결정에 대한 불변 기록으로, 규정 준수에 유용합니다.

대부분의 배포에서는 처음 두 계층(정책 + 감사)만 사용할 수 있습니다. 아이덴티티 계층은 선택 사항입니다.

시작하기 (Python 예제)

# 전체 스택 설치 (CLI, 규정 준수 도구 등 포함)
pip install "agent-governance-toolkit[full]"

from agentmesh.governance import govern

# 에이전트에 노출하는 모든 도구를 래핑
safe_tool = govern(my_tool, policy="policy.yaml")

# 정책 파일 (policy.yaml)
# -------------------------
# apiVersion: governance.toolkit/v1
# name: production-policy
# default_action: allow
# rules:
#   - name: block-destructive
#     condition: "action.type in ['drop', 'delete', 'truncate']"
#     action: deny
#   - name: require-approval-for-send
#     condition: "action.type == 'send_email'"
#     action: require_approval
#     approvers: ["security-team"]

>>> safe_tool(action="read", table="users")
{'table': 'users', 'rows': 42}
>>> safe_tool(action="drop", table="users")
GovernanceDenied: Action denied by policy rule 'block-destructive'

규칙이 require_approval을 반환하면 호출은 GovernancePending 예외를 발생시키며, 오케스트레이션 계층에서 인간 검토자에게 라우팅할 수 있습니다.

언어 지원

언어	패키지	설치 명령어
Python	`agent-governance-toolkit`	`pip install "agent-governance-toolkit[full]"`
TypeScript	`@microsoft/agent-governance-sdk`	`npm install @microsoft/agent-governance-sdk`
.NET	`Microsoft.AgentGovernance`	`dotnet add package Microsoft.AgentGovernance`
Rust	`agent-governance`	`cargo add agent-governance`
Go	`agent-governance-toolkit` (golang sub‑folder)	`go get github.com/microsoft/agent-governance-toolkit/agent-governance-golang`

모든 SDK는 동일한 핵심 API(정책 엔진 생성, 요청 평가, 판정 수신)를 노출합니다.

CLI 유틸리티 (`agt`)

agt doctor – 설치 상태 확인.
agt verify – 정책에 대해 OWASP Agentic Top‑10 규정 준수 검사를 실행합니다.
agt red-team scan … – 주입 위험에 대한 프롬프트 세트를 감사합니다.
agt lint-policy … – YAML/OPA 구문을 검증합니다.
agt verify --evidence … --strict – 규정 준수 증거가 약하면 CI를 실패시킵니다.

에코시스템 통합

이 도구 키트는 주요 LLM 에이전트 프레임워크용 어댑터를 제공합니다:

Microsoft Agent Framework, Semantic Kernel, AutoGen, LangChain/LangGraph, CrewAI, OpenAI Agents SDK, Claude Code, Google ADK, LlamaIndex, Haystack, Mastra, Dify, Azure AI Foundry, GitHub Copilot CLI 등.

적절한 어댑터 패키지를 설치하고 govern() 또는 하위 수준 AgentControl API로 도구를 래핑하기만 하면 됩니다.

거버넌스 관련 추가 기능

기능	추가 내용
MCP Security Gateway	도구 중독, 드리프트, 타입스쿼팅, 숨겨진 지침을 감지합니다.
Shadow AI Discovery	호스트에서 등록되지 않은 에이전트를 검색합니다.
Governance Dashboard	플릿 상태, 신뢰 점수, 정책 위반을 실시간으로 표시하는 Streamlit UI.
PromptDefense Evaluator	프롬프트 주입 위험에 대한 12개 벡터 감사.
Contributor Reputation Action	평판이 낮은 PR 작성자를 플래그하는 GitHub Action (사회 공학 공격 방지에 도움).

사용 시기

외부 도구(웹 검색, 데이터베이스 쿼리, 이메일, 셸 명령 등)를 호출하는 자율 에이전트를 배포하는 경우.
프롬프트 주입 공격이 아무리 영리해도 특정 작업이 발생하지 않도록 강력하고 결정론적인 보장이 필요한 경우.
조직이 규정 준수(예: GDPR, 금융 규정) 또는 내부 거버넌스를 위해 감사 추적을 유지해야 하는 경우.
지원되는 프레임워크 중 하나를 이미 사용하고 있으며 드롭인 정책 계층이 필요한 경우.

간단한 프롬프트 수준 안전만 필요하거나 로컬에서 실험 중인 경우 도구 키트가 과할 수 있습니다.

자세히 알아보기

전체 문서 사이트 – https://microsoft.github.io/agent-governance-toolkit
빠른 시작 가이드 – docs/quickstart.md
사양 문서 – policy-engine/spec/SPECIFICATION.md 및 기타 docs/specs/*
커뮤니티 – README의 Discord 링크 및 우수한 공급망 상태를 보여주는 OpenSSF 스코어카드 배지.

결론 – Agent Governance Toolkit은 자율 AI 에이전트가 수행할 수 있는 작업을 결정론적으로 제어하고 모든 결정을 기록하며 진화하는 OWASP Agentic 보안 표준을 준수할 수 있는 프로덕션급의 언어에 구애받지 않는 방법을 제공합니다.

microsoft/agent-governance-toolkit