seakee/CPA-Manager-Plus

A self-hosted CPA / CLIProxyAPI management panel and AI gateway observability dashboard for requests, usage, cost, quota, failures, and account health.

CPA Manager Plus – 소개

CPA Manager Plus (CPAMP) 는 여러 대규모 언어 모델 제공업체(OpenAI, Claude, Gemini, Codex, xAI, Meta/Muse 등)로 요청을 라우팅하는 데 사용되는 CLIProxyAPI (CPA) 게이트웨이 상단에서 실행되는 셀프 호스팅 웹 패널입니다. 이 패널은 모델 트래픽을 직접 전달하지 않으며, CPA가 이미 처리 중인 트래픽을 관찰, 저장 및 시각화합니다.

이 패널은 두 가지 배포 방식을 제공합니다:

경량 패널 – 별도의 서비스 추가 없이 공식 CPA UI를 대체합니다.
전체 모드 관리 서버 – 자체 컨테이너/호스트에서 실행되며 요청 로그, 비용 분석, 할당량 상태 확인 및 자동화 상태를 유지합니다.

모든 데이터는 사용자의 머신에 저장됩니다(SQLite + 암호화된 키). 원격 측정이나 필수 등록 절차는 없습니다.

핵심 기능 (README 설명 기준)

기능	제공 내용
제공업체 및 자격 증명 관리	수십 개의 LLM 제공업체 추가 및 구성, OAuth 토큰, API 키, 모델 별칭, 우선순위 및 플러그인 저장. Meta의 Device Flow와 같은 특수 흐름 지원.
요청 모니터링 및 장애 진단	CPA를 통과하는 모든 요청은 로컬 SQLite DB에 저장됩니다. 계정, API 키, 상태, 지연 시간, 토큰 수별로 검색할 수 있으며, 가려진 장애 증거를 볼 수 있습니다. 로그를 JSONL로 내보내기/가져오기 가능.
비용 및 사용량 분석	모델, 제공업체, 계정, 프로젝트, 채널, 시간 범위별로 호출, 토큰 사용량 및 예상 비용을 분석합니다. 가격은 models.dev 에서 동기화되며 LiteLLM 및 OpenRouter를 대체 수단으로 사용하고, 로컬에서 재정의할 수 있습니다.
계정 상태 및 할당량 자동화	Codex 및 xAI 계정의 경우 CPAMP는 할당량 창, 재설정 증거 및 상태 신호를 읽습니다. 쿨다운 예약, 실패한 호출을 작업 큐로 라우팅, 할당량 자동 복구를 지원합니다.
운영 환경 배포	원클릭 Docker 이미지 (amd64/arm64) 또는 Linux, macOS, Windows용 네이티브 패키지. 데이터는 로컬 파일에 저장되며, 기존 CPA 인스턴스와 함께 실행하거나 독립적으로 실행할 수 있습니다.
백업 및 보안	SQLite 파일은 `data.key`로 암호화됩니다. 백업 시 두 파일이 모두 필요합니다. 외부로 나가는 "전화" 트래픽은 없으며, 구성한 제공업체 호출만 수행됩니다.

퀵스타트 개요

설치 – 제공된 설치 스크립트를 실행합니다:
```
curl -fsSLO https://raw.githubusercontent.com/seakee/CPA-Manager-Plus/main/bin/install-cpamp.sh
bash install-cpamp.sh
```
(설치 없이 미리 보려면 CPAMP_DRY_RUN=1을 추가하세요.)
배포 – 다음 중 선택:
- 전체 스택: Docker-Compose를 통해 CPA와 CPAMP 배포 (README 참조), 또는
- CPAMP 전용: CPA가 이미 실행 중인 경우 단일 docker run 명령 사용.
http://<host>:18317/management.html에서 관리 UI를 열고, 컨테이너 로그에서 관리자 키를 검색한 후 UI를 CPA 인스턴스에 연결합니다.
제공업체 추가, OAuth 내보내기 가져오기를 시작하고 요청 상태, 비용, 할당량 대시보드를 모니터링합니다.

권장 사용자

ML Ops 팀: 단일 게이트웨이 뒤에서 여러 LLM 제공업체를 운영하며 사용량, 장애, 비용을 통합적으로 관리해야 하는 팀.
개발자: AI 강화 제품을 구축하며 할당량 상태를 모니터링하고 예상치 못한 비용 초과를 방지하려는 개발자.
기업: 규정 준수를 위해 자격 증명 파일과 요청 로그를 온프레미스에 보관해야 하는 기업.
연구원: 여러 모델을 실험하며 모델 또는 프로젝트별 비용 분석을 빠르게 확인하려는 연구원.

AI 스택 내 위치

[사용자 애플리케이션] → CPA (CLIProxyAPI) → CPAMP (관측성 및 관리) → LLM 제공업체 API

CPAMP는 프록시를 대체하지 않습니다. CPA가 이미 라우팅하는 트래픽을 관찰하고 로컬에 저장하여 풍부한 대시보드를 제공할 뿐입니다.

문서 및 커뮤니티

라이브 데모 (가상 데이터): https://seakee.github.io/CPA-Manager-Plus/
패널 선택, 배포, 제공업체 구성, 백업, 이전 CPA-Manager에서의 마이그레이션 및 문제 해결 가이드가 포함된 전체 문서 사이트.
오픈 소스 MIT 라이선스, Docker Hub 이미지 seakee/cpa-manager-plus, CI 파이프라인이 포함된 GitHub 저장소.

요약

CPA Manager Plus는 CLIProxyAPI LLM 게이트웨이를 위한 셀프 호스팅 관측성 및 관리 UI입니다. 자격 증명을 관리하고, 요청 실패 이유를 확인하며, 토큰 사용량과 비용을 추적하고, 할당량 상태를 모니터링할 수 있습니다. 모든 데이터는 로컬에 암호화되어 저장되며 외부 원격 측정 기능은 없습니다.