larsderidder/context-lens

解決的問題

Context Lens 解決了 AI 編碼工具中 LLM 上下文視窗的「黑箱」問題。開發者經常發現自己的會話意外變得昂貴或達到令牌限制，卻不知道究竟是什麼在消耗空間。由於許多工具是封閉原始碼的二進位檔，開發者無法使用傳統的 SDK 來監控它們，以查看提示詞組成的詳細分解。

工作原理

它作為一個本地透明代理運行，位於編碼工具與 LLM API（如 Anthropic、OpenAI 或 Google）之間。

1. 代理：攔截 HTTP 請求，將其轉發到實際 API，並將請求/回應對儲存到磁碟。
2. 分析伺服器：解析這些捕獲的資料，估算令牌數量，將請求分組為對話，並計算成本。
3. Web UI：提供一個視覺化儀表板，供使用者分析資料。

透過設定環境變數（例如 ANTHROPIC_BASE_URL）或使用 MITM（中間人）代理，可與 Claude Code、Aider 和 Cline 等工具整合，適用於無法透過基礎 URL 重導向的工具。

適用對象

專為使用 AI 編碼代理和工具的開發者設計，希望優化其令牌使用、理解會話成本，並識別工具在使用上下文視窗時的低效模式。

主要亮點

• 組成樹圖：按類別（系統提示、工具定義、對話歷史、工具結果和思考區塊）對上下文使用情況進行視覺化分解。
• 成本追蹤：跨不同模型的每回合和每會話成本估算。
• 上下文差異：逐回合對比視圖，精確顯示上下文中的增長、減少或新增內容。
• 發現面板：自動標記上下文溢出風險、大型工具結果和未使用的工具定義。
• 零程式碼變更：無需 SDK 或修改工具原始碼，即可與封閉原始碼工具相容。
• 本地優先：所有資料均在使用者機器上儲存與處理；無需雲端帳戶。