rtk-ai/rtk

CLI proxy that reduces LLM token consumption by 60-90% on common dev commands. Single Rust binary, zero dependencies

它解决了什么问题

RTK（Rust Token Killer）降低了基于 LLM 的 AI 编码代理的高成本和令牌消耗。当代理执行 shell 命令（如 ls、git status 或测试运行器）时，原始输出常常充斥着模板、空白和噪音，消耗数千个令牌却没有实际价值。RTK 在输出进入 LLM 上下文前进行过滤和压缩，将令牌使用量减少 60‑90%。

工作原理

RTK 是一个用 Rust 编写的高性能 CLI 代理。它采用四种主要策略来缩减命令输出：

  1. 智能过滤：移除噪音如注释和模板。
  2. 分组：聚合相似项，例如按目录分组文件或按类型分组错误。
  3. 截断：在保留关键上下文的同时削减冗余。
  4. 去重：合并重复的日志行并显示计数。

它通过自动重写钩子与 AI 工具集成，透明地拦截 Bash 命令并重写为 rtk 等价命令（例如 git status 变为 rtk git status）后执行。

适用人群

使用 AI 编码代理（如 Claude Code、Cursor、Windsurf 或 GitHub Copilot）的开发者，想要降低 API 成本并防止上下文窗口饱和。

亮点

  • 广泛支持：为 100+ 命令提供优化过滤，覆盖 Git、GitHub CLI、AWS、Docker、Kubernetes 以及各种测试运行器（Jest、Pytest、Cargo test）。
  • 透明集成：为多种代理提供原生二进制钩子，无需手动添加命令前缀。
  • 低开销：使用 Rust 编写，额外延迟低于 10ms。
  • 令牌分析：内置工具（rtk gain）可追踪并可视化令牌节省情况。
  • 失败恢复：命令失败时自动将原始输出保存到日志文件，允许 LLM 在需要时访问完整细节。