cnighswonger/claude-code-cache-fix

Fixes prompt cache regression in Claude Code that causes up to 20x cost increase on resumed sessions

What it solves

claude-code-cache-fix 是一个为 Claude Code 设计的缓存优化代理。它解决了导致过度配额消耗与请求前缀不稳定的提示缓存错误,这些问题会造成频繁的缓存未命中与成本上升。

How it works

此工具作为本地 HTTP 代理,位于 Claude Code 与 Anthropic API 之间。它对每个 /v1/messages 请求应用一系列可组合的扩展,以稳定提示并优化缓存。支持两种运行模式:

  • Reverse-proxy mode:用户将 ANTHROPIC_BASE_URL 指向该代理。
  • Forward-proxy mode:代理作为 HTTPS_PROXY,使用本地生成的 CA 证书仅对上游主机 (api.anthropic.com) 进行 MITM,保持 Remote Control 等功能可用。

Who it’s for

使用 Claude Code 的开发者,想要降低 API 配额消耗、提升缓存命中率,并监控缓存遥测数据。

Highlights

  • Cache Stabilization:包含移除不稳定指纹、稳定工具/MCP 定义排序、规范化消息身份字段的扩展。
  • Thinking-Desync Mitigation:自动丢弃空的思考块,以防止 400 错误(thinking-desync)。
  • Observability:从响应头提取缓存统计信息,并记录到本地 JSON 文件。
  • Flexible Deployment:可作为独立的 Node.js 进程、受管理的系统服务(systemd/launchd)或通过 Docker 运行。
  • Performance:在 A/B 测试中,缓存命中率从 82.3% 提升至 95.5%。