sting8k/pi-vcc

它解決的問題

pi-vcc 是 Pi AI 編碼代理的演算法式對話壓縮工具。它解決了標準 LLM 摘要過程中常見的上下文視窗溢出與資訊遺失問題，避免歷史記錄被捨棄或產生幻覺。此工具在不依賴 LLM 呼叫進行壓縮的狀況下，可將 token 使用量減少 35-99%。

如何運作

pi-vcc 不使用 LLM 重寫對話，而是採用純演算法方式提取並格式化簡短的對話摘要。它透過一個處理流程，先校準 token 評估，過濾雜訊，再利用正規表示式與模式比對，提取關鍵語意區段（例如會話目標、修改的檔案與 git 提交）。

為防止資料永久遺失，它內建 vcc_recall 工具，可直接讀取原始的會話 JSONL 檔案，讓代理即使在對話已被壓縮出即時上下文後，仍能從活躍的 lineage 或所有對話分支中搜尋並取得特定歷史訊息。

適用對象

使用 Pi AI 編碼代理的使用者，希望以可搜尋、確定性且成本效益高的方式管理長時間的對話歷史，同時不遺漏關鍵技術細節。

主要特色

• 零 LLM 成本：以演算法方式執行壓縮，消除摘要呼叫所帶來的 API 成本與延遲。
• 無損回溯：透過直接讀取原始會話檔案，跳過標準壓縮流程，讓整個歷史記錄仍可透過正規表示式與關鍵字搜尋進行檢索。
• 語意結構化：將壓縮後的歷史記錄整理成五個特定區段：會話目標、檔案與變更、提交、待處理上下文、使用者偏好。
• 確定性輸出：確保相同輸入總是產生相同輸出，消除歷史壓縮過程中 LLM 產生幻覺的風險。
• 可自訂壓縮：支援透過 /pi-vcc 手動觸發，以及「智慧保留」邏輯，以最佳化保留最近對話的數量。

這是一個純演算法的對話壓縮方案，避免了 LLM 摘要的不確定性，並確保歷史記錄可完全回溯。 — @badlogic