gglucass/headroom-desktop

Headroom for macOS — cut Claude Code and Codex token costs by ~50%

解決的問題

Headroom 的設計目標是降低使用 Claude Code 和 OpenAI Codex 等 AI 編程助手所產生的令牌成本。它專注於提示中的「冗餘」——特別是工具輸出、日誌與樣板程式碼——這些內容在不增加 AI 推理過程必要價值的情況下,卻增加了成本。

工作原理

Headroom 作為本地優先的代理,運行於您的編碼客戶端與 LLM API 之間。它透過雙跳本地代理系統(使用 Rust 拦截代理與 Python 優化後端)攔截請求與回應,在傳送至 API 前對內容進行壓縮。

主要機制包括:

  • 受管理的 Python 執行環境:安裝隔離的 Python 環境,以執行優化工具,而不影響系統 Python。
  • 節省令牌的工具:內建 headroom(用於提示優化)與 rtk(用於壓縮 CLI 輸出)等工具。
  • 可逆壓縮:壓縮資料可讓模型在需要時重新取得原始內容。
  • 客戶端整合:自動配置客戶端(如透過 settings.json 設定 Claude Code,透過 config.toml 設定 Codex),使其流量經由本地代理路由。

適用對象

希望在不改變編碼工作流程的前提下,降低 API 成本並延長令牌限制的 Claude Code 或 OpenAI Codex 使用者。

主要亮點

  • 顯著的成本降低:基準測試顯示,HTML 提取可達最高 94.9% 的壓縮率,JSON 日誌可達最高 87.6% 的壓縮率。
  • 零主機污染:應用程式自行管理其相依性,並在退出或卸載時完全還原所有系統與設定變更。
  • 本地優先的隱私保護:所有處理均在 127.0.0.1 上完成,再進行最終的上游 API 呼叫。
  • 分析儀表板:提供每日與每月節省圖表,以及各客戶端的令牌統計資料。
  • 保守的程式碼保護:刻意避免壓縮活躍的原始碼,以確保除錯與分析任務的準確性。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案