apache/apisix

解决的问题

Apache APISIX 是一个高性能、动态的 API 网关，专为管理微服务架构的流量而设计。它解决了在无需重启配置更新的情况下，管理跨多种服务（南北向和东西向流量）的复杂路由、安全性和可观测性的问题。

工作原理

APISIX 基于 NGINX 和 etcd 构建，使用动态路由系统和灵活的插件架构。它允许用户通过 Admin API 定义路由和上游，然后将其热加载到网关中。它支持广泛的协议（HTTP, gRPC, MQTT, TCP/UDP），并提供多语言插件系统（Java, Go, Python, Node.js, Wasm）来扩展其功能。

适用对象

面向需要可扩展、实时流量管理和安全性的微服务、Kubernetes Ingress 或 AI 工作负载的开发人员和平台工程师。

亮点

• AI 网关功能：为 LLM 提供商提供 AI 代理、基于 Token 的速率限制以及跨多个 LLM 的负载均衡。
• AI Agent 集成：包含 mcp-bridge 插件，可将基于 stdio 的 MCP 服务器转换为可扩展的 HTTP SSE 服务。
• 全动态配置：支持路由和插件的热更新，无需重启服务器。
• 高性能：能够以极低的延迟（0.2 ms）达到 140,000 QPS。
• 广泛的协议支持：处理从带有 QUIC 的 HTTP/3 到 gRPC 转码和 MQTT 代理的所有内容。