microsoft/agent-governance-toolkit

何を解決するか

AI エージェントはしばしば自律的な意思決定を行い、これにより破壊的なデータベースコマンドの実行や不正なメールの送信などのセキュリティリスクが生じることがあります。従来のプロンプトレベルの安全（エージェントにルールを守るよう求める）は確率的であり、プロンプトインジェクションによって回避される可能性があります。このツールキットは、実行前にツール呼び出しとアクションをインターセプトする決定的なガバナンスレイヤーを提供し、不正なアクションを構造的に不可能にし、ただ起こりにくいだけではなくします。

どのように機能するか

このツールキットは、AI エージェントとその使用するツールの間のゲートキーパーとして機能します。YAML、OPA、または Cedar をサポートするポリシーエンジンを使用し、定義されたルールのセットに対して各リクエストを評価します。プロセスは次の線形フローに従います：Agent $ ightarrow$ Policy Engine $ ightarrow$ Identity $ ightarrow$ Audit Log。ルールがアクションをブロックする場合、システムは GovernanceDenied エラーを発生させます；承認が必要な場合は、人間イン・ザ・ループワークフローをトリガーします。さらに、SPIFFE/DID/mTLS によるアイデンティティ管理と、規制遵守のための改ざん防止監査ログも含まれます。

誰のためのものか

本番環境に自律的な AI エージェントを導入する開発者と SRE で、LLM 自体によって回避できない厳格な制御、監査可能性、およびセキュリティ保証が必要な方々。

ハイライト

• マルチランゲージサポート：Python、TypeScript、.NET、Rust、Go 用の SDK が利用可能。
• フレームワークに依存しない：AutoGen、LangGraph、CrewAI、Semantic Kernel、OpenAI Agents SDK などの主要フレームワークと統合可能。
• 決定的な適用：安全をプロンプトレイヤーからアプリケーションコードレイヤーに移し、プロンプトインジェクション攻撃を防止。
• 包括的なツール：OWASP コンプライアンスチェック、ポリシーのリンティング、プロンプトインジェクションの監査を行う CLI が含まれる。
• 高度なガバナンス：サンドボックス用の特権リング、SLO モニタリング、およびエージェントフリートの "キルスイッチ" を特徴とする。
• MCP セキュリティゲートウェイ：Model Context Protocol (MCP) サーバーにおけるツールポイズニング、ドリフト、および隠された指令を特に検出。