rtk-ai/rtk

CLI proxy that reduces LLM token consumption by 60-90% on common dev commands. Single Rust binary, zero dependencies

解決する課題

RTK（Rust Token Killer）は、LLM ベースの AI コーディングエージェントの高コストとトークン消費を削減します。エージェントが ls、git status、テストランナーなどのシェルコマンドを実行すると、出力はテンプレートや空白、ノイズで埋め尽くされ、価値のない数千トークンを消費します。RTK はこの出力を LLM コンテキストに渡す前にフィルタリングと圧縮を行い、トークン使用量を 60‑90% 減らします。

仕組み

RTK は Rust で実装された高性能 CLI プロキシです。コマンド出力を縮小するために以下の 4 つの主な戦略を採用しています：

  1. スマートフィルタリング：コメントやテンプレートなどのノイズを除去。
  2. グルーピング：ディレクトリごとにファイルをまとめたり、エラーを種類別に集約したりします。
  3. トランケーション：重要なコンテキストを保持しつつ冗長部分を削除。
  4. 重複排除：同一ログ行を回数付きでまとめます。

AI ツールとは自動リライトフックで統合され、Bash コマンドを透過的に捕捉し rtk 相当コマンド（例：git status → rtk git status）に書き換えて実行します。

対象ユーザー

Claude Code、Cursor、Windsurf、GitHub Copilot などの AI コーディングエージェントを利用し、API コストを削減しコンテキストウィンドウの飽和を防ぎたい開発者向けです。

ハイライト

  • 幅広いサポート：Git、GitHub CLI、AWS、Docker、Kubernetes、各種テストランナー（Jest、Pytest、Cargo test）など 100 以上のコマンドに最適化されたフィルタを提供。
  • 透過的な統合：複数エージェント向けのネイティブバイナリフックを提供し、手動でコマンドプレフィックスを付与する必要がありません。
  • 低オーバーヘッド：Rust 製で 10ms 未満のオーバーヘッド。
  • トークン分析：組み込みツール（rtk gain）でトークン節約を追跡・可視化。
  • 失敗時リカバリ：コマンド失敗時に生の出力をログファイルに自動保存し、必要に応じて LLM が詳細にアクセス可能。