apache/apisix

Apache APISIX – AI対応APIゲートウェイ

概要 – Apache APISIXは、NGINXとetcdをベースにしたオープンソースの高性能APIゲートウェイです。サービスの前段に配置され、トラフィックのルーティング、負荷分散、セキュリティ保護、監視を行います。特別な AI Gateway モードを使用すると、大規模言語モデル (LLM) プロバイダーを単なるアップストリームとして扱い、AIワークロードに対してレート制限、リトライ、コスト制御を追加できます。

主な機能

• 動的ルーティングとホットリロード – 再起動なしでルートやプラグインを変更可能。
• 豊富なトラフィック管理 – 負荷分散 (ラウンドロビン、ハッシュ、カスタム)、カナリアリリース、ブルーグリーンデプロイ、トラフィック分割、サーキットブレーカー、リクエスト/レスポンス書き換え。
• マルチプロトコルサポート – HTTP/HTTPS, gRPC, gRPC-Web, TCP/UDP, MQTT, Dubbo, WebSocket, HTTP/3 (QUIC)。
• セキュリティと認証 – JWT, key-auth, basic-auth, RBAC, Casbin, Keycloak, IP/Refererホワイトリスト, CSRF, CORS, レート制限プラグイン。
• 可観測性 – Prometheusメトリクス, Zipkin, SkyWalking, 広範なログ記録 (Kafka, Elasticsearch, ClickHouseなど)。
• 拡張可能なプラグイン – Luaで記述、またはRPC経由で外部のJava/Go/Pythonを使用、あるいはProxy Wasm SDKを使用したWebAssembly (Wasm) に対応。
• AI-Gateway機能 – 複数のLLMプロバイダーへの統合プロキシ、モデル間の負荷分散、トークンベースのレート制限、安全な認証、フォールバック処理。
• デプロイの柔軟性 – スタンドアロン、Docker、ベアメタル、またはKubernetes Ingressコントローラーとして実行可能。ARM64およびクラウドネイティブ環境をサポート。

典型的なユースケース

• 単一の集中管理されたエントリーポイントの背後でマイクロサービスを公開。
• 内部APIや外部パートナー向けに、安全で可観測性の高いファサードを提供。
• AIワークロードのデプロイ：OpenAI、Anthropic、またはセルフホストLLMへのリクエストルーティング、トークン予算の強制、プロバイダー間の自動切り替え。
• 新しいサービスバージョンのためのA/Bテスト、カナリアリリース、トラフィック分割の実装。

はじめに – Dockerによるクイックスタート：

curl -sL https://run.api7.ai/apisix/quickstart | sh

その後、Admin API (ポート 9180) を使用してルートを作成します（例：/get を httpbin.org にプロキシ）。

コミュニティとサポート – Apacheプロジェクトであり、活発なメーリングリスト、Slack、GitHubディスカッション、専用のダッシュボードリポジトリがあります。NASA JPL、Tencent、Zoomなどの企業がすでに本番環境でAPISIXを運用しています。

---

すべての詳細はリポジトリのREADMEから直接引用しています。