apache/apisix

해결하는 문제

Apache APISIX는 마이크로서비스 아키텍처의 트래픽 관리를 위해 설계된 고성능 동적 API 게이트웨이입니다. 구성 업데이트를 위해 재시작할 필요 없이 다양한 서비스(North-South 및 East-West 트래픽)에 걸친 복잡한 라우팅, 보안 및 관측성을 관리하는 문제를 해결합니다.

작동 방식

NGINX와 etcd를 기반으로 구축된 APISIX는 동적 라우팅 시스템과 유연한 플러그인 아키텍처를 사용합니다. 사용자는 Admin API를 통해 라우트와 업스트림을 정의할 수 있으며, 이는 게이트웨이에 핫 로드됩니다. 다양한 프로토콜(HTTP, gRPC, MQTT, TCP/UDP)을 지원하며 기능을 확장하기 위한 다국어 플러그인 시스템(Java, Go, Python, Node.js, Wasm)을 제공합니다.

대상 사용자

확장 가능한 실시간 트래픽 관리 및 보안이 필요한 마이크로서비스, Kubernetes ingress 또는 AI 워크로드를 관리하는 개발자 및 플랫폼 엔지니어를 대상으로 합니다.

주요 특징

• AI 게이트웨이 기능: LLM 제공업체를 위한 AI 프록시, 토큰 기반 속도 제한 및 여러 LLM 간의 로드 밸런싱을 제공합니다.
• AI 에이전트 통합: mcp-bridge 플러그인을 포함하여 stdio 기반 MCP 서버를 확장 가능한 HTTP SSE 서비스로 변환합니다.
• 완전한 동적 구성: 서버를 재시작할 필요 없이 라우트 및 플러그인에 대한 핫 업데이트를 지원합니다.
• 고성능: 매우 낮은 지연 시간(0.2 ms)으로 140,000 QPS에 도달할 수 있습니다.
• 광범위한 프로토콜 지원: HTTP/3 (QUIC)부터 gRPC 트랜스코딩 및 MQTT 프록시까지 모든 것을 처리합니다.