microsoft/agent-governance-toolkit

它解決了什麼問題

AI 代理經常會做出自主決策，這可能導致安全風險，例如執行破壞性的資料庫指令或發送未經授權的電子郵件。傳統的提示層級安全（要求代理遵守規則）是概率性的，並且可能透過提示注入被繞過。此工具包提供了一個決定性的治理層，在執行之前攔截工具調用和動作，使未經授權的動作在結構上不可能發生，而不僅僅是不太可能發生。

它是如何運作的

該工具包在 AI 代理與其使用的工具之間充當守門人。它使用政策引擎（支援 YAML、OPA 或 Cedar）來根據一組定義好的規則評估每個請求。該流程遵循線性流程：Agent $ ightarrow$ Policy Engine $ ightarrow$ Identity $ ightarrow$ Audit Log。如果規則阻止了一個動作，系統會引發 GovernanceDenied 錯誤；如果需要批准，則會觸發人機迴圈工作流程。它還包括身份管理（SPIFFE/DID/mTLS）和防篡改的審計日誌，以符合監管合規要求。

適合誰使用

開發者和 SRE 將自主 AI 代理部署到生產環境中，需要嚴格的控制、可審計性和安全保證，而這些保證不會被 LLM 本身繞過。

亮點

• 多語言支援：提供 Python、TypeScript、.NET、Rust 和 Go 的 SDK。
• 與框架無關：可與 AutoGen、LangGraph、CrewAI、Semantic Kernel 和 OpenAI Agents SDK 等主要框架整合。
• 決定性執行：將安全從提示層移至應用程式碼層，以防止提示注入攻擊。
• 全面工具：包含用於 OWASP 合規檢查、政策 linting 和提示注入審計的 CLI。
• 進階治理：具備用於沙箱的特權環圈、SLO 監控以及 agent 队伍的 "kill switch"。
• MCP 安全閘道：專門偵測 Model Context Protocol (MCP) 伺服器中的工具投毒、漂移和隱藏指令。