rtk-ai/rtk

CLI proxy that reduces LLM token consumption by 60-90% on common dev commands. Single Rust binary, zero dependencies

它解決了什麼問題

RTK（Rust Token Killer）降低了基於 LLM 的 AI 程式碼代理的高成本與令牌消耗。當代理執行 shell 指令（例如 ls、git status 或測試執行器）時，原始輸出往往充斥著樣板、空白與噪音，會消耗數千個令牌卻沒有實質價值。RTK 在輸出進入 LLM 上下文前進行過濾與壓縮，將令牌使用量減少 60‑90%。

工作原理

RTK 是以 Rust 編寫的高效能 CLI 代理。它採用四種主要策略來縮減指令輸出：

  1. 智慧過濾：移除註解與樣板等噪音。
  2. 分組：將相似項目聚合，例如依目錄分組檔案或依類型分組錯誤。
  3. 截斷：在保留關鍵上下文的同時削減冗餘。
  4. 去重：將重複的日誌行合併並顯示次數。

它透過自動改寫掛鉤與 AI 工具整合，透明地攔截 Bash 指令並改寫為 rtk 等價指令（例如 git status 會變成 rtk git status）再執行。

目標使用者

使用 AI 程式碼代理（如 Claude Code、Cursor、Windsurf 或 GitHub Copilot）的開發者，想要降低 API 成本並防止上下文窗口飽和。

重點特色

  • 廣泛支援：為超過 100 種指令提供最佳化過濾，涵蓋 Git、GitHub CLI、AWS、Docker、Kubernetes 以及各種測試執行器（Jest、Pytest、Cargo test）。
  • 透明整合：為多種代理提供原生二進位掛鉤，無需手動加上指令前綴。
  • 低開銷：使用 Rust 實作，額外延遲低於 10ms。
  • 令牌分析：內建工具（rtk gain）可追蹤與視覺化令牌節省情況。
  • 失敗復原：指令失敗時自動將原始輸出保存至日誌檔，讓 LLM 必要時可取得完整細節。