cnighswonger/claude-code-cache-fix

Fixes prompt cache regression in Claude Code that causes up to 20x cost increase on resumed sessions

What it solves

claude-code-cache-fix 是一個為 Claude Code 設計的快取最佳化代理。它解決了導致過度配額消耗與請求前綴不穩定的提示快取錯誤，這些問題會造成頻繁的快取未命中與成本上升。

How it works

此工具作為本機 HTTP 代理，位於 Claude Code 與 Anthropic API 之間。它對每個 /v1/messages 請求套用一系列可組合的擴充功能，以穩定提示並最佳化快取。支援兩種運作模式：

  • Reverse-proxy mode：使用者將 ANTHROPIC_BASE_URL 指向此代理。
  • Forward-proxy mode：代理作為 HTTPS_PROXY，使用本機產生的 CA 憑證僅對上游主機 (api.anthropic.com) 進行 MITM，讓 Remote Control 等功能保持可用。

Who it’s for

使用 Claude Code 的開發者，想要降低 API 配額消耗、提升快取命中率，並監控快取遙測資料。

Highlights

  • Cache Stabilization：包含移除不穩定指紋、穩定工具/MCP 定義排序、正規化訊息身份欄位的擴充功能。
  • Thinking-Desync Mitigation：自動丟棄空的思考區塊，以防止 400 錯誤（thinking-desync）。
  • Observability：從回應標頭擷取快取統計資訊，並寫入本機 JSON 檔案。
  • Flexible Deployment：可作為獨立的 Node.js 程序、受管理的系統服務（systemd/launchd）或 Docker 容器執行。
  • Performance：在 A/B 測試中，快取命中率從 82.3% 提升至 95.5%。