Willxup/cpa-usage-keeper
Standalone CliProxyAPI usage tracker with SQLite persistence and built-in dashboard.
CPA Usage Keeper – その機能
目的 – CPA Usage Keeper は、AIモデル(OpenAI、Anthropicなど)と通信するコマンドラインプロキシである CLIProxyAPI (CPA) のための監視ダッシュボードです。CPAが転送するすべてのリクエストを記録し、データをローカルのSQLiteデータベースに保存し、Web UIで情報を表示することで、支出額、モデルの応答速度、APIキーの割り当てが枯渇していないかを確認できます。
主な機能
- 履歴の永続化 – CPAのリクエストログはSQLiteに書き込まれ、自動的にバックアップされます。
- コスト分析 – モデル、プロバイダー、APIキーごとに使用量を分類。推定コストとキャッシュヒット率を確認できます。
- リクエスト診断 – 個々のリクエストの詳細を表示、エクスポートし、成功率、最初のトークンまでの時間 (TTFT)、合計レイテンシなどのメトリクスを検査できます。
- クォータ追跡 – 各資格情報の残りクォータを監視し、クォータ情報を更新し、履歴クォータの変更(例:Codexクォータ)を表示できます。
- 読み取り専用共有 – チームメイトと共有できる、スコープ付きの読み取り専用ビューを生成できます。
- オプションのコミュニティランキング – モデル/資格情報のコミュニティ生成ランキングを取得できます。
パッケージング
- Dockerイメージ(GHCR)と、フルCPA + KeeperスタックまたはKeeperのみのスタック用の公式Docker-Composeテンプレート。
- macOS用のHomebrew formula。
- プリビルドのLinuxおよびWindowsバイナリ(Linux用のsystemdサービス テンプレート付き)。
- すべてのデプロイメントにはログインパスワードが含まれます(デフォルトで認証が有効)。
典型的なワークフロー
- CPA設定で使用統計を有効にします(
observability.usage.usage-statistics-enabled: true)。 - Keeperをデプロイします(Docker-Composeを推奨)。
.envを介してCPAのベースURL、CPA管理キー、Keeperログインパスワードを指定します。 http://<host>:8080を開き、サインインします。- ダッシュボードには、概要(総リクエスト数、コスト)、リアルタイム診断(ライブリクエストレート)、使用量分析(モデル/APIキーごとのコスト)、リクエストイベント(個々の呼び出しのリスト)、およびクォータ履歴が表示されます。
技術概要
- バックエンド:Go 1.26以上。HTTP APIは標準ライブラリで構築され、SQLiteで永続化、CPA使用量とクォータデータを同期するバックグラウンドポーラーがあります。
- フロントエンド:React + TypeScript。Goサーバーから提供されます。
- 環境変数(
APP_HOST、APP_PORT、APP_BASE_PATH、TRUSTED_PROXY_CIDRSなど)で拡張可能。 - 高スループットのセットアップ向けのオプションのRedisキューサポート。
誰が使うか
- 自社でCPAインスタンスをホストしており、モデル支出とクォータの健全性を可視化する必要があるチーム。
- カスタムログを構築せずにAI APIの使用状況を監査するための、迅速で自己完結型のUIを求める開発者。
- DockerまたはHomebrewデプロイメントを好み、軽量でパスワード保護されたダッシュボードを求める運用チーム。
はじめに – READMEの「クイックスタート」セクションで、Docker-ComposeコマンドとHomebrewインストール、バイナリダウンロードを参照してください。プロジェクトには、単体テストとリンティングを実行するためのmake verifyターゲットもあります。
すべての詳細はリポジトリのREADMEから直接取得されています。追加の機能は推測されていません。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト