seakee/CPA-Manager-Plus

A self-hosted CPA / CLIProxyAPI management panel and AI gateway observability dashboard for requests, usage, cost, quota, failures, and account health.

CPA Manager Plus – 它是什么

CPA Manager Plus (CPAMP) 是一个自托管的网页面板,架设在 CLIProxyAPI (CPA) 网关之上,用于将请求路由至多个大型语言模型提供商(OpenAI, Claude, Gemini, Codex, xAI, Meta/Muse 等)。它本身不会转发模型流量;相反地,它观察、存储并可视化 CPA 已经处理的流量。

该面板提供两种部署方式:

  • 轻量级面板 – 取代官方 CPA UI,无需增加额外服务。
  • 完整模式管理服务器 – 在其自己的容器/主机中运行,持久化请求日志、成本分析、配额健康检查和自动化状态。

所有数据都保留在您的机器上(SQLite + 加密密钥);没有遥测或强制注册。


核心功能(如 README 所述)

功能 您将获得什么
提供商与凭证管理 新增并配置数十个 LLM 提供商,存储 OAuth 令牌、API 密钥、模型别名、优先级和插件。支持如 Meta 的 Device Flow 等特殊流程。
请求监控与故障诊断 每个通过 CPA 的请求都会持久化在本地 SQLite 数据库中。您可以按账户、API 密钥、状态、延迟、令牌计数进行搜索,并查看遮蔽后的故障证据。以 JSONL 格式导出/导入日志。
成本与使用分析 按模型、提供商、账户、项目、频道、时间范围等细分调用、令牌使用量和预估成本。价格从 models.dev 同步,并提供 LiteLLM 和 OpenRouter 作为备援,您也可以在本地覆盖价格。
账户健康与配额自动化 对于 Codex 和 xAI 账户,CPAMP 会读取配额窗口、重置证据和健康信号。它可以排程冷却时间、将失败的调用路由至动作队列,并协助您自动恢复配额。
生产就绪部署 一键式 Docker 镜像 (amd64/arm64) 或适用于 Linux, macOS, Windows 的原生包。数据存储在本地文件中;您可以将管理服务器与现有的 CPA 实例并行运行或独立运行。
备份与安全 SQLite 文件使用 data.key 加密。备份需要两个文件。没有对外的“回传”流量;仅会执行您配置的提供商调用。

快速入门概览

  1. 安装 – 执行提供的安装脚本:
    curl -fsSLO https://raw.githubusercontent.com/seakee/CPA-Manager-Plus/main/bin/install-cpamp.sh
    bash install-cpamp.sh
    
    (加入 CPAMP_DRY_RUN=1 可在不安装的情况下预览。)
  2. 部署 – 选择以下其一:
    • 完整堆栈:通过 Docker-Compose 部署 CPA 和 CPAMP(参阅 README 片段),或
    • 仅 CPAMP:如果 CPA 已经在运行,使用单一 docker run 命令。
  3. 在 http://<host>:18317/management.html 开启管理 UI,从容器日志中获取管理密钥,并将 UI 指向您的 CPA 实例。
  4. 开始添加提供商、导入 OAuth 导出文件,并观察请求健康状况、成本和配额的仪表板。

谁适合使用?

  • ML Ops 团队:在单一网关后运行多个 LLM 提供商,需要统一视图查看使用量、故障和支出。
  • 开发人员:构建 AI 增强产品,希望监控配额健康状况并避免意外的成本超支。
  • 企业:必须将凭证文件和请求日志保留在本地以符合合规性要求。
  • 研究人员:实验多种模型,并希望快速获取每个模型或项目的成本细分。

它如何融入 AI 技术栈

[您的应用程序] → CPA (CLIProxyAPI) → CPAMP (可观测性与管理) → LLM 提供商 API

CPAMP 不会取代代理;它只是观察 CPA 已经路由的流量,将其存储在本地,并呈现丰富的仪表板。


文档与社区

  • 在线演示(虚拟数据):https://seakee.github.io/CPA-Manager-Plus/
  • 完整文档网站,包含关于面板选择、部署、提供商配置、备份、从旧版 CPA-Manager 迁移以及故障排除的指南。
  • 开源 MIT 授权,Docker Hub 镜像 seakee/cpa-manager-plus,以及包含 CI 流水线的 GitHub 仓库。

总结

CPA Manager Plus 是 CLIProxyAPI LLM 网关的自托管可观测性与管理 UI。它让您能够管理凭证、查看请求失败原因、追踪令牌使用量与成本,并监控配额健康状况——所有数据均加密存储在本地,且无外部遥测。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目