seakee/CPA-Manager-Plus
A self-hosted CPA / CLIProxyAPI management panel and AI gateway observability dashboard for requests, usage, cost, quota, failures, and account health.
CPA Manager Plus – 它是什么
CPA Manager Plus (CPAMP) 是一个自托管的网页面板,架设在 CLIProxyAPI (CPA) 网关之上,用于将请求路由至多个大型语言模型提供商(OpenAI, Claude, Gemini, Codex, xAI, Meta/Muse 等)。它本身不会转发模型流量;相反地,它观察、存储并可视化 CPA 已经处理的流量。
该面板提供两种部署方式:
- 轻量级面板 – 取代官方 CPA UI,无需增加额外服务。
- 完整模式管理服务器 – 在其自己的容器/主机中运行,持久化请求日志、成本分析、配额健康检查和自动化状态。
所有数据都保留在您的机器上(SQLite + 加密密钥);没有遥测或强制注册。
核心功能(如 README 所述)
| 功能 | 您将获得什么 |
|---|---|
| 提供商与凭证管理 | 新增并配置数十个 LLM 提供商,存储 OAuth 令牌、API 密钥、模型别名、优先级和插件。支持如 Meta 的 Device Flow 等特殊流程。 |
| 请求监控与故障诊断 | 每个通过 CPA 的请求都会持久化在本地 SQLite 数据库中。您可以按账户、API 密钥、状态、延迟、令牌计数进行搜索,并查看遮蔽后的故障证据。以 JSONL 格式导出/导入日志。 |
| 成本与使用分析 | 按模型、提供商、账户、项目、频道、时间范围等细分调用、令牌使用量和预估成本。价格从 models.dev 同步,并提供 LiteLLM 和 OpenRouter 作为备援,您也可以在本地覆盖价格。 |
| 账户健康与配额自动化 | 对于 Codex 和 xAI 账户,CPAMP 会读取配额窗口、重置证据和健康信号。它可以排程冷却时间、将失败的调用路由至动作队列,并协助您自动恢复配额。 |
| 生产就绪部署 | 一键式 Docker 镜像 (amd64/arm64) 或适用于 Linux, macOS, Windows 的原生包。数据存储在本地文件中;您可以将管理服务器与现有的 CPA 实例并行运行或独立运行。 |
| 备份与安全 | SQLite 文件使用 data.key 加密。备份需要两个文件。没有对外的“回传”流量;仅会执行您配置的提供商调用。 |
快速入门概览
- 安装 – 执行提供的安装脚本:
(加入curl -fsSLO https://raw.githubusercontent.com/seakee/CPA-Manager-Plus/main/bin/install-cpamp.sh bash install-cpamp.shCPAMP_DRY_RUN=1可在不安装的情况下预览。) - 部署 – 选择以下其一:
- 完整堆栈:通过 Docker-Compose 部署 CPA 和 CPAMP(参阅 README 片段),或
- 仅 CPAMP:如果 CPA 已经在运行,使用单一
docker run命令。
- 在
http://<host>:18317/management.html开启管理 UI,从容器日志中获取管理密钥,并将 UI 指向您的 CPA 实例。 - 开始添加提供商、导入 OAuth 导出文件,并观察请求健康状况、成本和配额的仪表板。
谁适合使用?
- ML Ops 团队:在单一网关后运行多个 LLM 提供商,需要统一视图查看使用量、故障和支出。
- 开发人员:构建 AI 增强产品,希望监控配额健康状况并避免意外的成本超支。
- 企业:必须将凭证文件和请求日志保留在本地以符合合规性要求。
- 研究人员:实验多种模型,并希望快速获取每个模型或项目的成本细分。
它如何融入 AI 技术栈
[您的应用程序] → CPA (CLIProxyAPI) → CPAMP (可观测性与管理) → LLM 提供商 API
CPAMP 不会取代代理;它只是观察 CPA 已经路由的流量,将其存储在本地,并呈现丰富的仪表板。
文档与社区
- 在线演示(虚拟数据):https://seakee.github.io/CPA-Manager-Plus/
- 完整文档网站,包含关于面板选择、部署、提供商配置、备份、从旧版 CPA-Manager 迁移以及故障排除的指南。
- 开源 MIT 授权,Docker Hub 镜像
seakee/cpa-manager-plus,以及包含 CI 流水线的 GitHub 仓库。
总结
CPA Manager Plus 是 CLIProxyAPI LLM 网关的自托管可观测性与管理 UI。它让您能够管理凭证、查看请求失败原因、追踪令牌使用量与成本,并监控配额健康状况——所有数据均加密存储在本地,且无外部遥测。
相关
- 项目
- 项目
- 项目
- 项目
- 项目