rtk:一個高效能的 CLI 代理,壓縮 Shell 指令輸出以減少 LLM 令牌使用量
rtk:一個高效能的 CLI 代理,壓縮 Shell 指令輸出以減少 LLM 令牌使用量
它解決了什麼問題
RTK(Rust Token Killer)降低了 LLM 在執行 Shell 指令時的高成本與上下文窗口使用量。它透過過濾與壓縮常見 CLI 工具(如 git、cargo、npm、docker、aws)的冗長輸出,防止「令牌膨脹」,通常可將令牌消耗減少 60‑90%。
它是如何運作的
RTK 是以 Rust 編寫的高效能 CLI 代理。它攔截 Shell 指令,並套用四種主要的壓縮策略:
- 智慧過濾:移除樣板、空白與註解等噪音。
- 分組:將相似項目聚合,例如依類型分組錯誤或依目錄分組檔案。
- 截斷:刪除冗餘資訊,同時保留關鍵上下文。
- 去重:將重複的日誌行合併為計數。
它可以透過自動改寫掛鉤整合,透明地改變指令(例如 git status 會變成 rtk git status),或透過針對特定 AI 代理(如 Claude Code、Cursor、Windsurf)的插件使用。
目標使用者
使用 AI 程式編寫代理(如 Claude Code、GitHub Copilot、Cursor 或 Cline)的開發者,想要降低 API 成本並防止 LLM 被大量、重複的指令輸出淹沒。
重點特色
- 廣泛指令支援:為超過 100 種指令提供最佳化過濾,涵蓋 Git、GitHub CLI、測試執行器(Jest、Pytest、Cargo)、建置工具與雲端服務提供商(AWS、Kubernetes)。
- 低開銷:單一 Rust 可執行檔,額外開銷低於 10ms。
- 為代理而設:內建掛鉤系統,可自動為 14 種不同 AI 工具改寫指令。
- 令牌分析:內建工具(
rtk gain)可追蹤並視覺化隨時間的令牌節省情況。 - 失敗復原:指令失敗時自動將完整未過濾的輸出保存至日誌檔,讓 LLM 在需要時取得完整上下文。
摘要: 一個高效能的 CLI 代理,透過在 Shell 指令輸出到達 AI 代理前進行過濾與壓縮,將 LLM 令牌消耗降低 60‑90%。
標題: rtk:一個高效能的 CLI 代理,壓縮 Shell 指令輸出以減少 LLM 令牌使用量
Sources
- undefinedrtk-ai/rtk