rtk:一個高效能的 CLI 代理,壓縮 Shell 指令輸出以減少 LLM 令牌使用量

rtk:一個高效能的 CLI 代理,壓縮 Shell 指令輸出以減少 LLM 令牌使用量

它解決了什麼問題

RTK(Rust Token Killer)降低了 LLM 在執行 Shell 指令時的高成本與上下文窗口使用量。它透過過濾與壓縮常見 CLI 工具(如 gitcargonpmdockeraws)的冗長輸出,防止「令牌膨脹」,通常可將令牌消耗減少 60‑90%。

它是如何運作的

RTK 是以 Rust 編寫的高效能 CLI 代理。它攔截 Shell 指令,並套用四種主要的壓縮策略:

  1. 智慧過濾:移除樣板、空白與註解等噪音。
  2. 分組:將相似項目聚合,例如依類型分組錯誤或依目錄分組檔案。
  3. 截斷:刪除冗餘資訊,同時保留關鍵上下文。
  4. 去重:將重複的日誌行合併為計數。

它可以透過自動改寫掛鉤整合,透明地改變指令(例如 git status 會變成 rtk git status),或透過針對特定 AI 代理(如 Claude Code、Cursor、Windsurf)的插件使用。

目標使用者

使用 AI 程式編寫代理(如 Claude Code、GitHub Copilot、Cursor 或 Cline)的開發者,想要降低 API 成本並防止 LLM 被大量、重複的指令輸出淹沒。

重點特色

  • 廣泛指令支援:為超過 100 種指令提供最佳化過濾,涵蓋 Git、GitHub CLI、測試執行器(Jest、Pytest、Cargo)、建置工具與雲端服務提供商(AWS、Kubernetes)。
  • 低開銷:單一 Rust 可執行檔,額外開銷低於 10ms。
  • 為代理而設:內建掛鉤系統,可自動為 14 種不同 AI 工具改寫指令。
  • 令牌分析:內建工具(rtk gain)可追蹤並視覺化隨時間的令牌節省情況。
  • 失敗復原:指令失敗時自動將完整未過濾的輸出保存至日誌檔,讓 LLM 在需要時取得完整上下文。

摘要: 一個高效能的 CLI 代理,透過在 Shell 指令輸出到達 AI 代理前進行過濾與壓縮,將 LLM 令牌消耗降低 60‑90%。

標題: rtk:一個高效能的 CLI 代理,壓縮 Shell 指令輸出以減少 LLM 令牌使用量

Sources