cnighswonger/claude-code-cache-fix

Fixes prompt cache regression in Claude Code that causes up to 20x cost increase on resumed sessions

解決的問題

本專案解決了 Claude Code 中的 Prompt Cache Bug,這些 Bug 會導致過度的 Token 使用(配額消耗)以及不穩定的快取讀取率。它特別修復了在恢復的對話或長時間運行的對話中,快取建立 Token 反覆激增的問題,從而防止不必要的成本並穩定請求前ي綴。

工作原理

它作為一個本地 HTTP 代理運行,位於 Claude Code 與 Anthropic API 之間。該代理會攔截並重寫 POST /v1/messages 請求,以規範化請求結構(例如區塊順序、fingerprint 和 TTL),確保 Prompt Caching 高效運作。

它提供兩種主要的運作模式:

  • 反向代理模式 (Reverse-Proxy Mode):使用者將 Claude Code 的 ANTHROPIC_BASE_URL 指向該代理。
  • 正向代理模式 (Forward-Proxy Mode):代理作為 HTTPS_PROXY 運作,使用本地產生的 CA 終止 api.anthropic.com 的 TLS,從而在保持 Claude Code 內部功能(如 Remote Control)啟用的同時,允許請求轉換。

適用對象

使用 Claude Code 且面臨高 Token 成本、長對話中低快取命中率,或面臨嚴格 API 配額壓力的開發者。

亮點

  • 快取優化:提高快取命中率(例如,在某些測試中從 82.3% 提高到 95.5%)。
  • 透明整合:適用於所有 Claude Code 版本,包括 Bun 二進位檔案。
  • 支援 Remote Control:正向代理模式允許使用在自定義 base URL 下會被禁用的 Claude Code 進階功能。
  • 可觀測性:包含在安裝前透過對話轉錄 (session transcripts) 測量快取健康狀況的工具。
  • ListNode:執行不會修改實際對話內容的冪等轉換。

相關

  • Dispatch
  • 專案
  • Dispatch
  • 專案
  • 專案