9router: 비용을 최소화하고 속도 제한을 피하기 위한 자동 폴백 및 토큰 압축 기능을 갖춘 스마트 AI 라우터

해결하는 문제

9Router는 속도 제한(rate limits), 구독 할당량 소진, 높은 API 비용으로 인해 발생하는 코딩 중단을 방지하기 위해 설계된 스마트 AI 라우터입니다. 개발자가 여러 AI 제공업체와 모델을 CLI 도구에 연결하면서 토큰 사용량과 비용을 자동으로 관리할 수 있게 해줍니다.

작동 방식

이 도구는 AI 코딩 도구(Claude Code, Cursor 또는 Cline 등)와 다양한 AI 제공업체 사이에서 프록시 역할을 합니다. 라우터는 3단계 폴백 시스템을 구현합니다: 먼저 유료 구독을 사용하려고 시도하고, 그 다음에는 저렴한 API 모델로 폴백하고, 마지막으로 무료 제공업체로 폴백합니다. 또한 도구의 출력값(git diff 또는 파일 목록 등)이 LLM에 도달하기 전에 압축하는 "RTK Token Saver"를 포함하여 입력 토큰 소비를 줄입니다.

대상 사용자

구독 가치를 극대화하고, 속도 제한으로 인한 다운타임을 피하며, 전반적인 API 지출을 줄이고자 하는 AI 기반 CLI 도구 및 IDE 사용자 개발자.

주요 특징

• 스마트 3단계 폴백: 요청을 Subscription $\rightarrow$ Cheap $\rightarrow$ Free 모델로 자동 라우팅하여 다운타임이 없도록 보장합니다.
• RTK Token Saver: 도구 출력(예: git diff, ls, grep)을 압축하여 입력 토큰의 20-40%를 절약합니다.
• 범용 호환성: OpenAI, Claude, Gemini 등을 위한 형식 간 변환을 수행하여 모든 OpenAI 호환 CLI 도구와 함께 작동합니다.
• 광범위한 제공업체 지원: OAuth 및 무료 제공업체를 포함하여 40개 이상의 API 제공업체와 100개 이상의 모델에 연결합니다.
• 할당량 추적: 구독 사용량을 극대화하기 위해 실시간 토큰 수와 초기화 카운트다운을 제공합니다.
• 프롬프트 인젝션: LLM이 더 간결하게 답변하고 최소한의 코드만 작성하도록 강제하는 "Caveman" 및 "Ponytail"과 같은 모드를 포함하여 출력 토큰을 절약합니다.