cnighswonger/claude-code-cache-fix

Fixes prompt cache regression in Claude Code that causes up to 20x cost increase on resumed sessions

What it solves

claude-code-cache-fix는 Claude Code를 위해 설계된 캐시 최적화 프록시입니다. 프롬프트 캐시 버그를 해결하여 과도한 할당량 소모와 불안정한 요청 프리픽스를 방지하고, 캐시 미스와 비용 증가 문제를 해결합니다.

How it works

이 도구는 Claude Code와 Anthropic API 사이에 위치하는 로컬 HTTP 프록시로 동작합니다. 모든 /v1/messages 요청에 대해 프롬프트를 안정화하고 캐시를 최적화하기 위한 조합 가능한 확장 파이프라인을 적용합니다. 두 가지 운영 모드를 지원합니다:

  • Reverse-proxy mode: 사용자가 ANTHROPIC_BASE_URL을 프록시로 지정합니다.
  • Forward-proxy mode: 프록시가 HTTPS_PROXY 역할을 하며, 로컬에서 생성한 CA 인증서를 사용해 업스트림 호스트(api.anthropic.com)만 MITM합니다. 이를 통해 Remote Control 같은 기능을 유지할 수 있습니다.

Who it’s for

Claude Code를 사용하면서 API 할당량 소모를 줄이고, 캐시 적중률을 높이며, 캐시 텔레메트리를 모니터링하고자 하는 개발자를 위한 도구입니다.

Highlights

  • Cache Stabilization: 불안정한 지문 제거, 도구/MCP 정의 순서 안정화, 메시지 ID 필드 정규화 등을 포함하는 확장 기능.
  • Thinking-Desync Mitigation: 빈 thinking 블록을 자동으로 삭제해 400 오류(think‑desync)를 방지합니다.
  • Observability: 응답 헤더에서 캐시 통계를 추출해 로컬 JSON 파일에 기록합니다.
  • Flexible Deployment: 독립적인 Node.js 프로세스, 관리형 시스템 서비스(systemd/launchd) 또는 Docker로 실행할 수 있습니다.
  • Performance: A/B 테스트에서 캐시 적중률이 82.3%에서 95.5%로 상승한 것이 입증되었습니다.