agentgateway/agentgateway

解決する課題

Agentgatewayは、Agentic AI向けの統合接続・セキュリティレイヤーを提供します。エージェント、LLM、外部ツール間の複雑な通信を管理する問題を解決し、セキュリティ、可観測性、ガバナンスを一元管理する手段を提供します。これらの機能を個々のエージェントフレームワークに組み込む必要はありません。

仕組み

MCP（Model Context Protocol）やA2A（Agent-to-Agent）などのAIネイティブプロトコルに基づくオープンソースプロキシとして動作します。3つの主要ゲートウェイにトラフィックをルーティングします：

• LLMゲートウェイ: 複数のプロバイダー（OpenAI、Anthropic、Gemini、Bedrock）にトラフィックをルーティングする統一OpenAI互換APIで、予算管理と負荷分散を内蔵。
• MCPゲートウェイ: さまざまなトランスポート（stdio、HTTP、SSE）とOpenAPI統合を使用して、LLMをツールやデータソースに接続。
• A2Aゲートウェイ: 異なるAIエージェント間の安全な通信とタスクコラボレーションを促進。

さらに、Kubernetes上のセルフホストモデル向け推論ルーティングシステム、コンテンツフィルタリング用の多層ガードレール、RBACやOpenTelemetry統合を含む堅牢なセキュリティスイートも含まれています。

対象ユーザー

エージェントワークフローを構築する開発者や組織で、異なるLLMプロバイダーやエージェントフレームワーク間でAPIキー、支出、セキュリティポリシー、ツール接続を一元管理する必要がある方。

主な特徴

• 統一API: 単一のOpenAI互換インターフェースで複数のLLMプロバイダーにアクセス。
• ツール連携: MCPを介してLLMを外部データやツールに接続。
• エージェント相互運用性: A2Aプロトコルを使用した安全なエージェント間通信を実現。
• 推論最適化: GPU使用率とKVキャッシュに基づくセルフホストモデルのインテリジェントルーティング。
• エンタープライズセキュリティ: 内蔵RBAC、JWT/OAuth認証、コンテンツガードレール。