AI Agent Governance Toolkit — Policy enforcement, zero-trust identity, execution sandboxing, and reliability engineering for autonomous AI agents. Covers 10/10 OWASP Agentic Top 10.

Agent Governance Toolkit – 快速、通俗易懂的概述

它是什么 – 一个由微软维护的开源库，允许你在生产环境中运行自主 AI 代理，同时强制执行确定性的、可审计的策略。它位于代理与代理想要使用的工具/服务之间，根据 YAML/OPA 风格策略检查每个请求，记录决策，并可选择阻止调用。

为什么你可能需要它

策略执行 – 防止能够读取数据库的代理执行诸如 DROP TABLE 之类的破坏性命令。
归因 – 识别多代理系统中哪个代理（或哪个 API 密钥）执行了给定操作。
可审计性 – 生成防篡改的日志，供监管机构或内部审计人员检查。

该工具包在 LLM 提示词之外 执行此操作，因此保护是确定性的，而不是依赖于概率性的提示级安全。

核心概念（“流水线”）

Agent ──► Policy Engine ──► Identity ──► Audit Log
            (YAML/OPA/Cedar)   (SPIFFE/DID/mTLS)   (tamper‑evident)

策略引擎 – 评估策略文件并返回 allow、deny 或 require_approval。
身份 – 可选的 SPIFFE/DID/mTLS 凭据，将请求绑定到特定代理。
审计日志 – 每个决策的不可变记录，有助于合规。

大多数部署可以仅使用前两层（策略 + 审计）；身份层是可选的。

快速入门（Python 示例）

# 安装完整堆栈（包括 CLI、合规工具等）
pip install "agent-governance-toolkit[full]"

from agentmesh.governance import govern

# 包装你向代理公开的任何工具
safe_tool = govern(my_tool, policy="policy.yaml")

# 策略文件 (policy.yaml)
# -------------------------
# apiVersion: governance.toolkit/v1
# name: production-policy
# default_action: allow
# rules:
#   - name: block-destructive
#     condition: "action.type in ['drop', 'delete', 'truncate']"
#     action: deny
#   - name: require-approval-for-send
#     condition: "action.type == 'send_email'"
#     action: require_approval
#     approvers: ["security-team"]

>>> safe_tool(action="read", table="users")
{'table': 'users', 'rows': 42}
>>> safe_tool(action="drop", table="users")
GovernanceDenied: Action denied by policy rule 'block-destructive'

如果规则返回 require_approval，调用将引发 GovernancePending 异常，你的编排层可以将其路由给人工审核员。

语言支持

语言	包	安装命令
Python	`agent-governance-toolkit`	`pip install "agent-governance-toolkit[full]"`
TypeScript	`@microsoft/agent-governance-sdk`	`npm install @microsoft/agent-governance-sdk`
.NET	`Microsoft.AgentGovernance`	`dotnet add package Microsoft.AgentGovernance`
Rust	`agent-governance`	`cargo add agent-governance`
Go	`agent-governance-toolkit` (golang sub‑folder)	`go get github.com/microsoft/agent-governance-toolkit/agent-governance-golang`

所有 SDK 都公开相同的核心 API：创建策略引擎、评估请求并接收裁决。

CLI 工具 (`agt`)

agt doctor – 检查安装是否正常。
agt verify – 对策略运行 OWASP Agentic Top‑10 合规检查。
agt red-team scan … – 审核一组提示词的注入风险。
agt lint-policy … – 验证 YAML/OPA 语法。
agt verify --evidence … --strict – 如果合规证据薄弱，则使 CI 失败。

生态系统集成

该工具包为主要的 LLM 代理框架提供了适配器：

Microsoft Agent Framework、Semantic Kernel、AutoGen、LangChain/LangGraph、CrewAI、OpenAI Agents SDK、Claude Code、Google ADK、LlamaIndex、Haystack、Mastra、Dify、Azure AI Foundry、GitHub Copilot CLI 等。

只需安装相应的适配器包，并使用 govern() 或更低级别的 AgentControl API 包装你的工具即可。

治理相关附加功能

功能	增加的内容
MCP Security Gateway	检测工具投毒、漂移、域名仿冒、隐藏指令。
Shadow AI Discovery	扫描主机上未注册的代理。
Governance Dashboard	实时显示代理群健康状况、信任评分和策略违规的 Streamlit UI。
PromptDefense Evaluator	针对提示注入风险的 12 向量审计。
Contributor Reputation Action	GitHub Action，标记低信誉的 PR 提交者（有助于防止社会工程攻击）。

何时使用

你正在部署调用外部工具（网络搜索、数据库查询、电子邮件、shell 命令等）的自主代理。
无论提示注入攻击多么巧妙，你都需要硬性、确定性的保证，确保某些操作不会发生。
你的组织必须保留审计跟踪以符合合规要求（例如 GDPR、金融法规）或内部治理。
你已经在使用受支持的框架之一，并且需要一个即插即用的策略层。

如果你只需要简单的提示级安全或仅在本地进行实验，该工具包可能有些大材小用。

了解更多

完整文档站点 – https://microsoft.github.io/agent-governance-toolkit
快速入门指南 – docs/quickstart.md
规范文档 – policy-engine/spec/SPECIFICATION.md 和其他 docs/specs/*
社区 – README 中的 Discord 链接，以及显示良好供应链健康状况的 OpenSSF 评分卡徽章。

底线 – Agent Governance Toolkit 为你提供了一种生产级、语言无关的方式，可以 确定性地 控制自主 AI 代理可以做什么，记录每个决策，并符合不断发展的 OWASP Agentic 安全标准。

microsoft/agent-governance-toolkit