agentgateway

agentgateway: それが何か、解決する問題、そして注目を集めている理由

解決する課題

Agentgateway は、AI エージェントを LLM、ツール、他のエージェントに接続する際の複雑さに対処します。セキュリティ、可観測性、ガバナンスを処理する集中型プロキシを提供し、開発者がエージェントワークフローごとにこれらのインフラストラクチャコンポーネントを手動で構築する必要をなくします。

仕組み

AI ネイティブプロトコル（MCP（Model Context Protocol）や A2A）に基づくオープンソースのプロキシとして機能します。トラフィックは複数の専門ゲートウェイを通ってルーティングされます:

  • LLM Gateway: 複数の LLM プロバイダーを 1 つの OpenAI 互換 API に統合し、支出コントロールとロードバランシングを提供します。
  • MCP Gateway: さまざまなトランスポート（stdio、HTTP、SSE）と OAuth を使用して、LLM を外部データやツールに接続します。
  • A2A Gateway: 異なるエージェント間の安全な通信とタスク協調を促進します。
  • Inference Routing: GPU 使用率やキューの深さといったリアルタイム指標に基づき、自己ホスト型モデルへトラフィックを振り分けます。

対象ユーザー

エージェント型 AI システムを構築する開発者や組織向けで、接続性の管理、ガードレールの適用、異なるフレームワークや環境間の通信の監視を本番環境レベルで実現したい方に最適です。

ハイライト

  • マルチレイヤー ガードレール: 正規表現、OpenAI モデレーション、AWS Bedrock、Google Model Armor によるコンテンツフィルタリング。
  • エンタープライズ セキュリティ: JWT、API キー、OAuth、そして CEL ポリシーエンジンを用いた細粒度 RBAC を含む。
  • 可観測性: メトリクス、ログ、トレースのための OpenTelemetry 統合。
  • デプロイ柔軟性: スタンドアロンインストールと、組み込みコントローラおよび Gateway API を利用した Kubernetes デプロイの両方をサポート。

要約: エージェント型 AI のためのオープンソース接続プロキシで、エージェント、LLM、ツール間の通信に対しセキュリティ、可観測性、ガバナンスを提供します。

タイトル: agentgateway: それが何か、解決する問題、そして注目を集めている理由

Sources