Nya-Foundation/NyaProxy

解決的問題

NyaProxy 提供了一種集中管理外部或內部 API（例如 AI 提供者、圖像生成或 SaaS 服務）存取的方式，而無需將敏感的 API 金鑰暴露給客戶端應用程式。它解決了單一服務管理多個憑證的問題、處理速率限制，並透過自動重試與故障轉移確保高可用性。

工作原理

NyaProxy 作為位於您的應用程式與上游服務之間的 API 網關。應用程式使用內部代理金鑰向 NyaProxy 認證。NyaProxy 隨後將請求轉發至目標 API，並從管理的金鑰池中注入適當的上游憑證。它使用可設定的負載平衡策略輪轉金鑰，並在端點、金鑰和使用者層面強制執行速率限制。若因特定錯誤碼導致請求失敗，NyaProxy 可自動切換至另一個金鑰並重試請求。

適用對象

專為需要集中管理憑證、實現配額感知路由，並防止上游 API 金鑰暴露給前端或客戶端程式碼的團隊與開發者設計。

主要特色

• 憑證池化與注入：在多個上游金鑰之間輪轉流量，以最大化配額使用。
• 進階負載平衡：支援輪詢、隨機、最少請求數、最快回應與加權選擇。
• 韌性：具備自動重試、故障轉移與「隔離」系統，可暫時封鎖失敗或被撤銷的金鑰。
• 流量控制：實作多層級速率限制（端點、金鑰、IP 與使用者）與請求佇列。
• 請求修改：可使用 JMESPath 规則設定或移除請求主體中的 JSON 欄位，以確保與提供者相容。
• 可觀測性：包含 Web 仪表板與 Prometheus 指標端點。