Willxup/cpa-usage-keeper

Standalone CliProxyAPI usage tracker with SQLite persistence and built-in dashboard.

它解决了什么问题

CPA Usage Keeper 为 CLIProxyAPI (CPA) 用户提供了一个集中化的持久化和分析仪表板。它解决了在多个提供商和 API 密钥之间跟踪 AI 模型使用情况、成本和请求健康状况的问题,这些问题在其他情况下是临时的或难以实时监控的。

它如何工作

该工具作为一个独立服务器运行,与正在运行的 CPA 实例同步数据。它拉取配置、凭证数据和使用统计信息,并将其存储在本地 SQLite 数据库中。然后,它提供一个基于 Web 的仪表板(使用 React 和 TypeScript 构建),用于可视化这些数据,包括请求级别的事件、成本构成以及延迟诊断。

适用于谁

专为使用 CLIProxyAPI 管理其 AI 模型访问的开发人员和管理员设计,他们需要一种专业的方式来监控支出、跟踪配额,并分析其 AI 供应商的性能。

主要特性

  • 全面的分析功能:跟踪令牌使用量、成本、缓存使用情况、成功率、RPM/TPM 和延迟。
  • 提供商监控:检查 Auth Files 和 AI 提供商,具备健康检查和配额刷新功能。
  • 自动同步:自动同步 API 密钥和 AI 提供商,同时保留模型定价以进行成本估算。
  • 灵活的部署方式:支持 Docker、Docker Compose、Homebrew 以及适用于 Linux、macOS 和 Windows 的原生二进制文件。
  • 访问控制:内置密码保护,并支持针对特定 API 密钥的只读视图。
  • 社区排名:可选择参与,根据令牌使用量、请求数和性能指标进行排名。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目