rtk: 셸 명령 출력물을 압축하여 LLM 토큰 사용량을 줄이는 고성능 CLI 프록시
rtk: 셸 명령 출력물을 압축하여 LLM 토큰 사용량을 줄이는 고성능 CLI 프록시
해결하는 문제
RTK(Rust Token Killer)는 LLM이 셸 명령을 실행할 때 발생하는 높은 비용과 컨텍스트 윈도우 사용량을 감소시킵니다. git, cargo, npm, docker, aws와 같은 일반적인 CLI 도구의 상세한 출력을 필터링하고 압축함으로써 "토큰 팽창"을 방지하고, AI 에이전트에 전달되기 전에 토큰 소비를 일반적으로 60-90% 줄입니다.
작동 방식
RTK는 Rust로 작성된 고성능 CLI 프록시로 동작합니다. 셸 명령을 가로채어 네 가지 주요 압축 전략을 적용합니다:
- 스마트 필터링: 보일러플레이트, 공백, 주석 등 잡음을 제거합니다.
- 그룹화: 오류를 유형별로 묶거나 파일을 디렉터리별로 집계하는 등 유사 항목을 모읍니다.
- 잘라내기: 필수 컨텍스트는 유지하면서 중복 정보를 삭제합니다.
- 중복 제거: 반복되는 로그 라인을 개수로 압축합니다.
자동 재작성 훅을 통해 명령을 투명하게 변경할 수 있습니다(예: git status가 rtk git status가 됨). 또한 Claude Code, Cursor, Windsurf와 같은 특정 AI 에이전트를 위한 플러그인으로도 통합할 수 있습니다.
대상 사용자
AI 코딩 에이전트(Claude Code, GitHub Copilot, Cursor, Cline 등)를 사용하는 개발자로, API 비용을 낮추고 LLM이 방대한 중복 명령 출력에 압도되지 않도록 하고자 하는 사람들을 위한 도구입니다.
주요 특징
- 광범위한 명령 지원: Git, GitHub CLI, 테스트 러너(Jest, Pytest, Cargo), 빌드 도구, 클라우드 제공자(AWS, Kubernetes) 등 100개 이상의 명령에 최적화된 필터 제공.
- 낮은 오버헤드: 10ms 미만의 오버헤드를 갖는 단일 Rust 바이너리.
- 에이전트용 코딩: 14개의 다양한 AI 도구에 대해 명령을 자동으로 재작성하는 훅 시스템 포함.
- 토큰 분석: 토큰 절감량을 시간에 따라 추적·시각화하는 내장 도구(
rtk gain). - 실패 복구: 명령이 실패할 경우 전체 비필터링 출력을 로그 파일에 자동 저장하여 필요 시 LLM이 전체 컨텍스트를 가져올 수 있게 함.
요약:
셸 명령 출력물을 필터링·압축하여 AI 에이전트에 도달하기 전에 LLM 토큰 소비를 60-90% 줄이는 고성능 CLI 프록시.
제목:
rtk: 셸 명령 출력물을 압축하여 LLM 토큰 사용량을 줄이는 고성능 CLI 프록시
Sources
- undefinedrtk-ai/rtk