microsoft/agent-governance-toolkit
AI Agent Governance Toolkit — Policy enforcement, zero-trust identity, execution sandboxing, and reliability engineering for autonomous AI agents. Covers 10/10 OWASP Agentic Top 10.
它解决了什么问题
AI 代理经常会做出自主决策，这可能导致安全风险，例如执行破坏性的数据库指令或发送未经授权的电子邮件。传统的提示层级安全（要求代理遵守规则）是概率性的，并且可能通过提示注入被绕过。此工具包提供了一种确定性的治理层，在执行之前拦截工具调用和动作，使未经授权的动作在结构上不可能发生，而不仅仅是不太可能发生。
它是如何工作的
该工具包在 AI 代理与其使用的工具之间充当守门人。它使用政策引擎（支持 YAML、OPA 或 Cedar）来根据一组定义好的规则评估每个请求。该流程遵循线性流程：Agent $
ightarrow$ Policy Engine $
ightarrow$ Identity $
ightarrow$ Audit Log。如果规则阻止了一个动作，系统会引发 GovernanceDenied 错误；如果需要批准，则会触发人机回圈工作流程。它还包括身份管理（SPIFFE/DID/mTLS）和防篡改的审计日志，以符合监管合规要求。
适合谁使用
开发者和 SRE 将自主 AI 代理部署到生产环境中，需要严格的控制、可审计性和安全保证，而这些保证不会被 LLM 本身绕过。
亮点
- 多语言支持：提供 Python、TypeScript、.NET、Rust 和 Go 的 SDK。
- 与框架无关：可与 AutoGen、LangGraph、CrewAI、Semantic Kernel 和 OpenAI Agents SDK 等主要框架整合。
- 确定性执行：将安全从提示层移至应用程序代码层，以防止提示注入攻击。
- 全面工具：包含用于 OWASP 合规检查、政策 linting 和提示注入审计的 CLI。
- 高级治理：具备用于沙箱的特权环圈、SLO 监控以及 agent 队伍的 "kill switch"。
- MCP 安全网关：专门检测 Model Context Protocol (MCP) 服务器中的工具投毒、漂移和隐藏指令。
相关
- 项目
- 项目
- 项目
- 项目
- 项目