kittors/CliRelay
Self-hosted AI gateway for coding CLIs — one OpenAI/Claude/Gemini/Codex-compatible endpoint, with a multi-tenant web console, request logs, and spend quotas.
What it solves
CliRelay 是一個統一的代理伺服器,旨在將多個 AI CLI 工具的訂閱和 API 金鑰整合進一個單一、受管理的 API 層。它允許使用者使用現有的訂閱(來自 Claude、Gemini 和 OpenAI 等提供者)搭配任何相容的用戶端,同時增加專業的管理功能,例如路由、配額和多租戶功能,這些功能通常是原始 API 存取中的缺口。
How it works
該系統作為 AI 編碼工具與上游提供者之間的閘道器(預設埠號為 8317)。它將來自各種用戶端(例如 Claude Code、Gemini CLI)的請求轉換為上游服務的適當格式。它使用生產等級的技術棧,包含 Go、用於持久化數據和請求日誌的 PostgreSQL,以及用於快取和速率限制的 Redis。內建的網頁管理面板允許管理員配置提供者通道、管理 API 金鑰,並即時監控流量。
Who it’s for
它主要針對在不同提供者之間管理多個 AI 訂閱的團隊或個人,且需要一種中心化的方式來分發存取權限、追蹤使用量,並透過故障轉移和負載平衡來確保服務可用性。
Highlights
- Multi-Provider Support: Gemini, Claude, Codex, Qwen, xAI/Grok, Bedrock, 和 OpenAI-compatible 服務的統一端點。
- Enterprise Governance: 具備細粒度角色權限控制 (RBAC) 和稽核日誌的多租戶架構。
- Operational Tooling: 用於監控的整合式網頁面板、用於終端機管理的 TUI,以及視覺化配置編輯器。
- Traffic Management: 智慧型負載平衡、自動故障轉移,以及針對每個金鑰的 token/request 配額。
- Observability: 在 PostgreSQL 中完整擷取請求/回應,並透過 WebSockets 提供分析儀錶板和即時系統統計數據。
- Security: 對多個提供者提供原生 OAuth 支持,並內建內容審查機制。"},
相關
- 專案
- 專案
- 專案
- 專案
- 專案