9router: 무엇인지, 어떤 문제를 해결하는지 & 왜 인기를 얻고 있는지

해결하는 문제

9Router는 AI 코딩 도구를 사용하는 개발자의 비용을 절감하고 다운타임을 방지하기 위해 설계된 AI 라우터입니다. CLI 기반 AI 에이전트를 사용할 때 발생하는 속도 제한(rate limits) 도달, 사용하지 않는 구독 쿼터 낭비, 그리고 장황한 도구 출력(예: git diff 또는 ls)으로 인한 토큰 소모 문제를 해결합니다.

작동 방식

AI 코딩 도구(예: Claude Code, Cursor, Cline)와 다양한 AI 제공업체 사이에서 스마트 프록시 역할을 합니다. 다음과 같은 기능을 처리하는 OpenAI 호환 API 엔드포인트를 제공합니다:

• 토큰 압축: RTK를 사용하여 도구 결과가 LLM에 도달하기 전에 압축하여 입력 토큰의 20-40%를 절약합니다.
• 계층형 폴백(Tiered Fallback): 요청을 우선순위 목록(구독 $ ightarrow$ 저렴한 모델 $ ightarrow$ 무료 제공업체)을 통해 자동으로 라우팅하여 다운타임을 제로로 유지합니다.
• 형식 변환: 서로 다른 제공업체 형식 간의 요청 및 응답을 변환합니다(예: OpenAI $\leftrightarrow$ Claude $\leftrightarrow$ Gemini).
• 쿼터 관리: 토큰 사용량 및 구독 초기화 상태를 실시간으로 추적합니다.

대상 사용자

AI 기반 CLI 도구 및 에이전트를 사용하며, API 비용을 최적화하고, 기존 구독을 최대한 활용하거나, 수동으로 설정을 변경하지 않고도 무료 AI 모델에 액세스하려는 개발자.

주요 특징

• RTK Token Saver: 입력 토큰 비용을 줄이기 위해 도구 출력을 무손실 압축합니다.
• 스마트 3단계 폴백: 속도 제한을 피하기 위해 구독, 저렴한 모델, 무료 모델 간을 자동으로 전환합니다.
• Ponytail & Caveman Modes: LLM이 더 간결하게 답변하고 최소한의, YAGNI 우선 코드를 작성하도록 강제하는 프롬프트 인젝션을 수행하여 출력 토큰을 줄입니다.
• 범용 호환성: 주요 AI 코딩 도구 전반에서 40개 이상의 제공업체와 100개 이상의 모델과 작동합니다.
• 멀티 계정 지원: 제공업체당 여러 계정 간의 라운드 로빈(Round-robin) 로드 밸런싱을 지원합니다.