Willxup/cpa-usage-keeper

Standalone CliProxyAPI usage tracker with SQLite persistence and built-in dashboard.

CPA Usage Keeper – その機能

目的 – CPA Usage Keeper は、AIモデル(OpenAI、Anthropicなど)と通信するコマンドラインプロキシである CLIProxyAPI (CPA) のための監視ダッシュボードです。CPAが転送するすべてのリクエストを記録し、データをローカルのSQLiteデータベースに保存し、Web UIで情報を表示することで、支出額、モデルの応答速度、APIキーの割り当てが枯渇していないかを確認できます。

主な機能

  • 履歴の永続化 – CPAのリクエストログはSQLiteに書き込まれ、自動的にバックアップされます。
  • コスト分析 – モデル、プロバイダー、APIキーごとに使用量を分類。推定コストとキャッシュヒット率を確認できます。
  • リクエスト診断 – 個々のリクエストの詳細を表示、エクスポートし、成功率、最初のトークンまでの時間 (TTFT)、合計レイテンシなどのメトリクスを検査できます。
  • クォータ追跡 – 各資格情報の残りクォータを監視し、クォータ情報を更新し、履歴クォータの変更(例:Codexクォータ)を表示できます。
  • 読み取り専用共有 – チームメイトと共有できる、スコープ付きの読み取り専用ビューを生成できます。
  • オプションのコミュニティランキング – モデル/資格情報のコミュニティ生成ランキングを取得できます。

パッケージング

  • Dockerイメージ(GHCR)と、フルCPA + KeeperスタックまたはKeeperのみのスタック用の公式Docker-Composeテンプレート。
  • macOS用のHomebrew formula。
  • プリビルドのLinuxおよびWindowsバイナリ(Linux用のsystemdサービス テンプレート付き)。
  • すべてのデプロイメントにはログインパスワードが含まれます(デフォルトで認証が有効)。

典型的なワークフロー

  1. CPA設定で使用統計を有効にします(observability.usage.usage-statistics-enabled: true)。
  2. Keeperをデプロイします(Docker-Composeを推奨)。.envを介してCPAのベースURL、CPA管理キー、Keeperログインパスワードを指定します。
  3. http://<host>:8080を開き、サインインします。
  4. ダッシュボードには、概要(総リクエスト数、コスト)、リアルタイム診断(ライブリクエストレート)、使用量分析(モデル/APIキーごとのコスト)、リクエストイベント(個々の呼び出しのリスト)、およびクォータ履歴が表示されます。

技術概要

  • バックエンド:Go 1.26以上。HTTP APIは標準ライブラリで構築され、SQLiteで永続化、CPA使用量とクォータデータを同期するバックグラウンドポーラーがあります。
  • フロントエンド:React + TypeScript。Goサーバーから提供されます。
  • 環境変数(APP_HOST、APP_PORT、APP_BASE_PATH、TRUSTED_PROXY_CIDRSなど)で拡張可能。
  • 高スループットのセットアップ向けのオプションのRedisキューサポート。

誰が使うか

  • 自社でCPAインスタンスをホストしており、モデル支出とクォータの健全性を可視化する必要があるチーム。
  • カスタムログを構築せずにAI APIの使用状況を監査するための、迅速で自己完結型のUIを求める開発者。
  • DockerまたはHomebrewデプロイメントを好み、軽量でパスワード保護されたダッシュボードを求める運用チーム。

はじめに – READMEの「クイックスタート」セクションで、Docker-ComposeコマンドとHomebrewインストール、バイナリダウンロードを参照してください。プロジェクトには、単体テストとリンティングを実行するためのmake verifyターゲットもあります。


すべての詳細はリポジトリのREADMEから直接取得されています。追加の機能は推測されていません。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト