agent-governance-toolkit: 自律型AIエージェントのための決定論的なポリシー適用およびガバナンスレイヤー

何を解決するか

AIエージェントは、ツールの呼び出し、ウェブブラウジング、またはデータベースへのクエリなどの意思決定を自律的に行うことがよくあります。プロンプトレベルの安全性（モデルにルールに従うよう求めること）に頼ることは、モデルがプロンプトインジェクションや敵対的攻撃を受けやすいため、信頼性が低くなります。このツールキットは、エージェントのアクションが実行される前にそれをインターセプトする決定論的なガバナンスレイヤーを提供し、許可されたアクションのみが発生することを保証し、コンプライアンスのための改ざん防止監査トレイルを提供します。

仕組み

このツールキットは、すべてのツール呼び出し、メッセージ、または委譲がポリシーエンジンによってインターセプトされる「フェイルクローズ」アーキテクチャを実装しています。このエンジンは、YAMLで定義されたポリシー（速度と決定論のためにRust-coreランタイムを使用）に基づいてリクエストを評価し、アイデンティティと信頼レベルを確認します。ポリシーによってアクションが拒否された場合、モデルの意図に関わらず、エージェントがそれを実行することは構造的に不可能です。

対象者

厳格なポリシー適用、アイデンティティ管理、および規制コンプライアンス（OWASP Agentic Top 10やEU AI Actなど）を必要とする、自律型AIエージェントを本番環境にデプロイする開発者およびSRE。

ハイライト

  • マルチ言語サポート: Python, TypeScript, .NET, Rust, および Go 用の SDK が利用可能です。
  • フレームワークに依存しない: AutoGen, LangGraph, CrewAI, Semantic Kernel, および LlamaIndex のような主要なフレームワークと統合できます。
  • 決定論的な適用: 安全性を、確率的なプロンプトベースのリクエストから、決定論的なアプリケーションコードへと移行させます。
  • 包括的なガバナンススタック: 実行サンドボックス化（Privilege Rings）、SREモニタリング（SLOs, kill switches）、およびコンプライアンス検証（OWASP audits）のためのツールが含まれています。
  • MCP Security Gateway: Model Context Protocol サーバーにおけるツールポイズニング、ドリフト、および隠れた指示を特異的に検出します。

Sources