rtk-ai/rtk

CLI proxy that reduces LLM token consumption by 60-90% on common dev commands. Single Rust binary, zero dependencies

해결하는 문제

RTK(Rust Token Killer)는 LLM 기반 AI 코딩 에이전트의 높은 비용과 토큰 소비를 감소시킵니다. 에이전트가 ls, git status, 테스트 러너와 같은 쉘 명령을 실행하면, 원시 출력은 종종 템플릿, 공백, 노이즈로 가득 차 있어 가치 없이 수천 개의 토큰을 소모합니다. RTK는 이 출력을 LLM 컨텍스트에 전달하기 전에 필터링하고 압축하여 토큰 사용량을 60‑90% 줄입니다.

작동 방식

RTK는 Rust로 작성된 고성능 CLI 프록시입니다. 명령 출력 크기를 줄이기 위해 네 가지 주요 전략을 사용합니다:

  1. 스마트 필터링: 주석 및 템플릿과 같은 노이즈를 제거합니다.
  2. 그룹화: 디렉터리별 파일이나 유형별 오류와 같이 유사 항목을 집계합니다.
  3. 잘라내기: 핵심 컨텍스트를 유지하면서 중복을 제거합니다.
  4. 중복 제거: 반복되는 로그 라인을 횟수와 함께 압축합니다.

AI 도구와는 자동 재작성 훅을 통해 통합되어 Bash 명령을 투명하게 가로채 rtk 동등 명령(예: git status → rtk git status)으로 변환 후 실행합니다.

대상 사용자

Claude Code, Cursor, Windsurf, GitHub Copilot 등 AI 코딩 에이전트를 사용하면서 API 비용을 낮추고 컨텍스트 윈도우 포화 현상을 방지하고자 하는 개발자를 위한 도구입니다.

주요 특징

  • 광범위한 지원: Git, GitHub CLI, AWS, Docker, Kubernetes 및 다양한 테스트 러너(Jest, Pytest, Cargo test)를 포함한 100개 이상의 명령에 최적화된 필터 제공.
  • 투명한 통합: 여러 에이전트를 위한 네이티브 바이너리 훅을 제공하여 수동으로 명령 접두사를 추가할 필요가 없음.
  • 낮은 오버헤드: Rust로 구현되어 10ms 미만의 오버헤드.
  • 토큰 분석: 내장 도구(rtk gain)를 통해 토큰 절감량을 추적하고 시각화.
  • 실패 복구: 명령이 실패하면 원시 출력을 로그 파일에 자동 저장하여 필요 시 LLM이 전체 세부 정보를 접근할 수 있도록 함.