seakee/CPA-Manager-Plus

해결하는 문제

CPA Manager Plus (CPAMP)는 CPA / CLIProxyAPI 게이트웨이 사용자를 위한 중앙 집중식 관리 및 관찰성 대시보드를 제공합니다. 외부 텔레메트리에 의존하지 않고, 자체 호스팅 환경에서 여러 AI 제공업체를 관리하고, 다양한 계정과 모델 간의 비용을 추적하며, 요청 실패를 진단하는 문제를 해결합니다.

작동 방식

CPAMP은 CPA 게이트웨이 위에 관리 계층으로 작동합니다. 가벼운 UI 대체로 배포할 수 있으며, "풀 모드"에서는 로컬 SQLite 데이터베이스에 요청 기록, 비용 분석, 계정 건강 데이터를 지속적으로 저장하는 매니저 서버를 실행합니다. 다양한 AI 제공업체(Gemini, Claude, OpenAI 등)와 통합되어 모델 가격을 동기화하여 추정 비용을 계산합니다.

대상 사용자

CPA / CLIProxyAPI를 사용하여 AI 모델 트래픽을 라우팅하는 개발자 및 운영자에게 적합합니다. 여러 계정에 대한 전문 수준의 모니터링, 비용 추적, 자격 증명 관리가 필요합니다.

주요 기능

• AI 게이트웨이 관찰성: 실패 진단과 마스킹된 증거를 포함한 지속적인 요청 기록. 요청이 실패하는 이유를 식별할 수 있습니다.
• 비용 분석: 모델, 제공업체, 계정, API 키별 토큰 사용량과 추정 비용의 상세 분해.
• 자격 증명 관리: OAuth, API 키, 제공업체 구성 관리 도구. Codex 및 xAI 계정에 대한 자동 건강 검사 지원.
• 개인정보 우선: 텔레메트리 전송 없이 자체 호스팅. 모든 요청 기록과 설정은 로컬 파일에 보관됩니다.
• 유연한 배포: Docker 컨테이너, 네이티브 패키지, 또는 가벼운 UI 전용 대체로 사용 가능.