seakee/CPA-Manager-Plus

A self-hosted CPA / CLIProxyAPI management panel and AI gateway observability dashboard for requests, usage, cost, quota, failures, and account health.

CPA Manager Plus – 概要

CPA Manager Plus (CPAMP) は、多くの大規模言語モデルプロバイダー(OpenAI, Claude, Gemini, Codex, xAI, Meta/Museなど)へのリクエストをルーティングするために使用される CLIProxyAPI (CPA) ゲートウェイ上で動作するセルフホスト型Webパネルです。これ自体がモデルのトラフィックを転送するわけではありません。CPAがすでに処理しているトラフィックを観測、保存、可視化します。

このパネルには2つのデプロイ形態があります:

  • 軽量パネル – 別のサービスを追加することなく、公式のCPA UIを置き換えます。
  • フルモード管理サーバー – 独自のコンテナ/ホストで実行され、リクエストログ、コスト分析、クォータの健全性チェック、自動化状態を永続化します。

すべてのデータはローカルマシン上に保持されます(SQLite + 暗号化キー)。テレメトリや登録は不要です。


主な機能(READMEより)

機能 内容
プロバイダーと認証情報の管理 多数のLLMプロバイダーの追加・設定、OAuthトークン、APIキー、モデルエイリアス、優先順位、プラグインの保存。MetaのDevice Flowのような特殊なフローもサポート。
リクエスト監視と障害診断 CPAを通過するすべてのリクエストはローカルのSQLite DBに保存されます。アカウント、APIキー、ステータス、レイテンシ、トークン数で検索でき、編集済みの障害証拠を表示可能です。ログはJSONLとしてエクスポート/インポートできます。
コストと使用状況の分析 モデル、プロバイダー、アカウント、プロジェクト、チャネル、期間ごとに呼び出し回数、トークン使用量、推定コストを内訳表示します。価格は models.dev から同期され、LiteLLMやOpenRouterをフォールバックとして使用し、ローカルで上書きも可能です。
アカウントの健全性とクォータ自動化 CodexおよびxAIアカウントに対して、CPAMPはクォータウィンドウ、リセット証拠、健全性シグナルを読み取ります。クールダウンのスケジュール設定、失敗した呼び出しのアクションキューへのルーティング、クォータの自動回復を支援します。
本番環境向けデプロイ ワンクリックDockerイメージ (amd64/arm64) またはLinux, macOS, Windows用のネイティブパッケージ。データはローカルファイルに保存され、既存のCPAインスタンスと並行して、またはスタンドアロンで実行できます。
バックアップとセキュリティ SQLiteファイルは data.key で暗号化されます。バックアップには両方のファイルが必要です。外部への「電話」通信は一切なく、設定したプロバイダーへの呼び出しのみが行われます。

クイックスタートの概要

  1. インストール – 提供されているインストーラースクリプトを実行します:
    curl -fsSLO https://raw.githubusercontent.com/seakee/CPA-Manager-Plus/main/bin/install-cpamp.sh
    bash install-cpamp.sh
    
    (インストールせずにプレビューするには CPAMP_DRY_RUN=1 を追加してください。)
  2. デプロイ – 以下のいずれかを選択:
    • フルスタック:Docker-Compose経由でCPAとCPAMPをデプロイ(READMEを参照)、または
    • CPAMPのみ:CPAが既に実行中の場合は、単一の docker run コマンドを使用。
  3. http://<host>:18317/management.html で管理UIを開き、コンテナログから管理キーを取得して、UIをCPAインスタンスに向けます。
  4. プロバイダーの追加、OAuthエクスポートのインポートを開始し、リクエストの健全性、コスト、クォータのダッシュボードを監視します。

想定されるユーザー

  • ML Opsチーム:単一のゲートウェイの背後で複数のLLMプロバイダーを運用し、使用状況、障害、支出を一元管理する必要があるチーム。
  • 開発者:AI拡張製品を構築しており、クォータの健全性を監視し、予期せぬコスト超過を回避したい方。
  • 企業:コンプライアンスのために認証情報ファイルやリクエストログをオンプレミスに保持する必要がある組織。
  • 研究者:多くのモデルを実験しており、モデルやプロジェクトごとのコスト内訳を素早く把握したい方。

AIスタックへの組み込み

[アプリケーション] → CPA (CLIProxyAPI) → CPAMP (可観測性と管理) → LLMプロバイダーAPI

CPAMPはプロキシを置き換えるものではありません。CPAがルーティングするトラフィックを監視し、ローカルに保存してリッチなダッシュボードを表示するだけです。


ドキュメントとコミュニティ

  • ライブデモ(架空データ):https://seakee.github.io/CPA-Manager-Plus/
  • パネルの選択、デプロイ、プロバイダー設定、バックアップ、旧CPA-Managerからの移行、トラブルシューティングに関するガイドを含む完全なドキュメントサイト。
  • オープンソースのMITライセンス、Docker Hubイメージ seakee/cpa-manager-plus、CIパイプラインを備えたGitHubリポジトリ。

まとめ

CPA Manager Plusは、CLIProxyAPI LLMゲートウェイのためのセルフホスト型可観測性および管理UIです。認証情報の管理、リクエスト失敗理由の確認、トークン使用量とコストの追跡、クォータの健全性監視が可能で、すべてのデータは暗号化されてローカルに保存され、外部へのテレメトリ送信はありません。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト