Kong/kong

解決的問題

Kong Gateway 提供一個中央化的層，用於管理與編排微服務、傳統 API 和 AI 驅動的工作負載的流量。它消除了工程團隊必須為每個服務個別實作重複性基礎設施任務（如驗證、路由和負載平衡）的需求。

工作原理

Kong 作為一個雲原生代理，位於客戶端與服務之間。它採用插件式架構來擴展功能，允許使用者新增如速率限制或記錄等功能。針對 AI 工作負載，它提供一個通用的 LLM API，可透過單一介面在不同提供者（如 OpenAI、Anthropic 和 Azure AI）之間路由流量，並管理用於代理工作流程的 Model Context Protocol (MCP) 流量。

適用對象

專為需要管理可擴展 API 流量、編排基於 LLM 的應用，或在 Kubernetes 或裸機環境中安全監控 MCP 流量的平台工程師與開發者設計。

主要亮點

• 通用 LLM API：透過單一介面在多個 LLM 提供者之間路由請求。
• MCP 治理：提供從 RESTful API 自動產生 MCP 的安全性、可觀測性與自動化功能。
• AI 專用工具：包含語意安全、語意路由與 AI 快取。
• 可擴展架構：支援超過 60 個 AI 功能，以及涵蓋 Lua、Go 和 JavaScript 的龐大插件庫。