tigerless-labs/cost-xray

해결하는 문제

대부분의 AI 코딩 에이전트 사용 도구는 로컬 로그만 읽을 뿐, 모델이 호출되기 전에 조립되는 '보이지 않는' 요청 시점 컨텍스트(시스템 프롬프트, 툴 스키마, MCP 블록 등)를 놓칩니다. cost-xray는 실제 API 트래픽을 시각화하여 모델에 전송되는 내용과 각 요청의 특정 부분이 얼마나 비용이 드는지 정확히 보여줍니다.

작동 방식

mitmproxy를 사용하여 로컬 캡처 홉으로 작동합니다. 코딩 에이전트(Claude Code 또는 Codex 등)와 모델 API 사이의 HTTP/HTTPS 트래픽을 가로챕니다.

• 캡처: Claude Code에는 리버스 프록시를, Codex에는 범위가 지정된 로컬 CA를 가진 포워드 프록시를 사용합니다.
• 개인정보 보호: 모든 데이터는 ~/.cost-xray/에 로컬에 저장되며, 디스크에 기록되기 전에 API 키와 시크릿이 마스킹됩니다.
• 분석: 별도의 매터리얼라이저가 핫 패스에서 벗어나 캡처된 원시 바이트를 토큰화하고 가격을 산정하여 실시간 리레이에 지연을 추가하지 않습니다.
• 중복 제거: 공간 절약을 위해 고유한 블록(메시지, 스키마)은 한 번만 저장하고, 반복되는 세션 기록에는 각 턴별 델타를 사용합니다.

대상 사용자

API 비용을 최적화하고 싶은 AI 코딩 에이전트 사용자. 컨텍스트 창에 있는 '무게 없는' 요소(사용되지 않는 MCP 서버 등)를 식별하고, 컨텍스트 창의 정확한 구성 요소를 이해하고 싶은 사람들을 위한 도구입니다.

주요 기능

• 세부적인 비용 할당: 세션 총합이 아니라 개별 툴 호출과 특정 소스에 대한 비용을 추적합니다.
• 컨텍스트 창 가시성: 컨텍스트 창을 차지하는 내용(시스템 프롬프트, 툴 스키마 등)을 정확히 보여줍니다.
• 낭비 탐지: 모든 요청에 주입되지만 실제로 사용되지 않는 설정된 MCP 서버와 툴을 경고합니다.
• 토큰화 정확성: Claude의 사내 토크나이저에 보정된 추정기를 사용하여 총 청구 금액을 정확히 일치시킵니다.
• 자기 복구 캡처: 프록시가 다운되었을 경우, 프록시를 재시작하거나 직접 실행하여 에이전트가 계속 작동하도록 래퍼가 보장합니다.
• TUI 대시보드: 에이전트 → 프로젝트 → 세션 → 특정 API 호출로 단계적으로 탐색할 수 있는 실시간 터미널 사용자 인터페이스를 제공합니다.