Kong/kong

何を解決するか

Kong Gatewayは、マイクロサービス、従来のAPI、AI駆動ワークロードのトラフィックを管理・オーケストレーションするための中央化されたレイヤーを提供します。エンジニアリングチームが各サービスごとに繰り返しのインフラタスク（認証、ルーティング、ロードバランシングなど）を個別に実装する必要がなくなります。

仕組み

Kongは、クライアントとサービスの間に位置するクラウドネイティブプロキシとして機能します。プラグインベースのアーキテクチャにより機能を拡張でき、レート制限やログ記録などの機能を追加できます。AIワークロードでは、OpenAI、Anthropic、Azure AIなど複数のLLMプロバイダー間でトラフィックをルーティングできるユニバーサルLLM APIを提供し、エージェントワークフロー用のModel Context Protocol (MCP) トラフィックを管理します。

対象ユーザー

Kubernetes環境またはベアメタル環境でスケーラブルなAPIトラフィックを管理する必要があるプラットフォームエンジニアや開発者向けに設計されています。LLMベースのアプリケーションをオーケストレーションする、またはMCPトラフィックをセキュアに監視・管理する必要がある方々に最適です。

主な特徴

• ユニバーサルLLM API: 1つのインターフェースから複数のLLMプロバイダー間でリクエストをルーティング可能。
• MCPガバナンス: RESTful APIからMCPのセキュリティ、監視、自動生成を提供。
• AI専用ツールキット: 意味的セキュリティ、意味的ルーティング、AIキャッシュを含む。
• 拡張性のあるアーキテクチャ: 60以上のAI機能と、Lua、Go、JavaScriptをサポートする広大なプラグインハブを備えています。