apache/apisix

Apache APISIX – AI 就绪的 API 网关

它是什么 – Apache APISIX 是一款基于 NGINX 和 etcd 的开源高性能 API 网关。它位于您的服务前端，负责路由、负载均衡、安全防护与流量监控。特殊的 AI Gateway 模式让您可以将大型语言模型 (LLM) 提供商视为一般的上游服务，并为 AI 工作负载增加速率限制、重试机制与成本控制功能。

主要功能

• 动态路由与热重载 – 无需重启即可更改路由或插件。
• 丰富的流量管理 – 负载均衡 (轮询、哈希、自定义)、金丝雀发布、蓝绿部署、流量分割、断路器、请求/响应重写。
• 多协议支持 – HTTP/HTTPS, gRPC, gRPC-Web, TCP/UDP, MQTT, Dubbo, WebSocket, HTTP/3 (QUIC)。
• 安全与验证 – JWT, key-auth, basic-auth, RBAC, Casbin, Keycloak, IP/Referer 白名单, CSRF, CORS, 速率限制插件。
• 可观测性 – Prometheus 指标, Zipkin, SkyWalking, 广泛的日志记录 (Kafka, Elasticsearch, ClickHouse 等)。
• 可扩展插件 – 使用 Lua 编写，或通过 RPC 使用外部 Java/Go/Python，或使用 Proxy Wasm SDK 进行 WebAssembly (Wasm) 开发。
• AI-Gateway 功能 – 针对多个 LLM 提供商的统一代理、跨模型负载均衡、基于 Token 的速率限制、安全验证与故障转移处理。
• 部署灵活性 – 可独立运行、在 Docker 中运行、在裸机上运行，或作为 Kubernetes Ingress 控制器；支持 ARM64 与云原生环境。

典型使用场景

• 在单一且集中管理的入口点后方公开微服务。
• 为内部 API 与外部合作伙伴提供安全且可观测的界面。
• 部署 AI 工作负载：将请求路由至 OpenAI、Anthropic 或自托管的 LLM，强制执行 Token 预算，并自动在不同提供商之间切换。
• 为新服务版本实现 A/B 测试、金丝雀发布或流量分割。

快速开始 – 一行命令 Docker 快速启动：

curl -sL https://run.api7.ai/apisix/quickstart | sh

接着使用 Admin API (端口 9180) 创建路由，例如将 /get 代理至 httpbin.org。

社区与支持 – Apache 项目，拥有活跃的邮件列表、Slack、GitHub 讨论区以及专属的仪表板仓库。NASA JPL、Tencent 和 Zoom 等公司已在生产环境中使用 APISIX。

---

所有详细信息均直接取自仓库的 README。