ding113/claude-code-hub

解决的问题

CC Hub 是一个专为团队设计的 AI API 代理及管理平台，旨在统一对多个 AI 提供商（如 Claude、OpenAI 和 Gemini）的访问。它消除了为不同服务管理单独 API 密钥和端点的需求，为弹性调度、成本管理和可观测性提供了一个集中的枢纽。

工作原理

该系统基于 Next.js 16、Hono、PostgreSQL 和 Redis 构建，充当客户端与 AI 提供商之间的网关。它通过一个包含身份验证、会话管理、速率限制和提供商选择的流水线来处理请求。它使用带有熔断器保护的加权负载均衡器将请求路由到最稳定的提供商，最多支持三次故障转移尝试。该平台还维护 5 分钟的上下文缓存，以确保会话一致性并避免频繁的提供商切换。

适用对象

主要面向使用多个 AI 模型提供商，并需要专业级网关来管理并发、跟踪成本并确保其 AI 服务高可用性的团队和开发人员。

亮点

• 智能负载均衡：使用权重、优先级和分组，并内置熔断器保护和自动故障转移。
• 多提供商支持：集成 Claude、Codex、Gemini CLI 和 OpenAI 兼容的 API，并支持自定义模型重定向。
• 细粒度控制：使用 Redis Lua 脚本实现原子性的多维度速率限制（RPM、预算、并发会话）。
• 实时监控：提供仪表板，用于跟踪使用情况、成本、活动会话和决策链日志。
• OpenAI 兼容性：提供 /v1/chat/completions 端点，可以在不进行格式转换的情况下透传工具调用和推理字段。
• 自动化文档：使用 Swagger 和 Scalar UI 自动生成 OpenAPI 3.1.0 规范以供测试。