Kong/kong

해결하는 문제

Kong Gateway는 마이크로서비스, 전통적인 API, AI 기반 워크로드의 트래픽을 관리하고 오케스트레이션하기 위한 중앙 집중식 레이어를 제공합니다. 개발 팀이 각 서비스마다 인증, 라우팅, 로드 밸런싱과 같은 반복적인 인프라 작업을 개별적으로 구현할 필요가 없습니다.

작동 방식

Kong는 클라우드 네이티브 프록시로서 클라이언트와 서비스 사이에 위치합니다. 플러그인 기반 아키텍처를 사용하여 기능을 확장할 수 있으며, 레이트 제한 또는 로깅과 같은 기능을 추가할 수 있습니다. AI 워크로드의 경우, OpenAI, Anthropic, Azure AI와 같은 다양한 LLM 제공업체 간에 트래픽을 라우팅할 수 있는 유니버설 LLM API를 제공하며, 에이전트 워크플로우를 위한 Model Context Protocol (MCP) 트래픽을 관리합니다.

대상 사용자

Kubernetes 또는 베어메탈 환경에서 확장 가능한 API 트래픽을 관리하거나, LLM 기반 애플리케이션을 오케스트레이션하거나, MCP 트래픽을 보안하고 모니터링해야 하는 플랫폼 엔지니어 및 개발자에게 적합합니다.

주요 특징

• 유니버설 LLM API: 단일 인터페이스를 통해 여러 LLM 제공업체 간에 요청을 라우팅할 수 있습니다.
• MCP 거버넌스: RESTful API에서 MCP의 보안, 가시성, 자동 생성을 제공합니다.
• AI 전용 도구: 의미 기반 보안, 의미 기반 라우팅, AI 캐싱을 포함합니다.
• 확장 가능한 아키텍처: 60개 이상의 AI 기능과 Lua, Go, JavaScript를 지원하는 방대한 플러그인 허브를 갖추고 있습니다.