decolua/9router

해결하는 문제

9Router는 개발자가 AI 속도 제한에 걸리거나, 비싼 토큰을 낭비하거나, 월간 구독 쿼터를 사용하지 못하고 남기는 것을 방지하도록 설계되었습니다. AI 코딩 도구(Cursor, Claude Code, Cline 등)와 다양한 AI 모델 제공업체 사이에서 스마트한 중개자 역할을 하여 지속적인 가동 시간과 비용 효율성을 보장합니다.

작동 방식

OpenAI 호환 API 엔드포인트를 제공하는 로컬 프록시 서버로 작동합니다. 코딩 도구가 요청을 보내면 9Router는 계층 시스템을 기반으로 라우팅을 관리합니다:

1. Subscription Tier: 가치를 극대화하기 위해 유료 구독을 먼저 사용합니다.
2. Cheap Tier: 구독이 소진되면 저비용 제공업체로 폴백합니다.
3. Free Tier: 마지막 수단으로 무료 제공업체로 폴백합니다.

또한, "RTK Token Saver"를 사용하여 도구 결과(git diff 또는 grep 출력 등)를 압축함으로써 요청당 토큰 소비량을 20-40% 줄입니다. 또한 서로 다른 제공업체 간의 형식 변환(예: OpenAI에서 Claude로)도 처리합니다.

대상 사용자

여러 AI 코딩 어시스턴트를 사용하며 API 키를 중앙 집중화하고, 다운타임을 피하기 위한 폴백 로직을 자동화하며, LLM 사용 비용을 줄이고 싶은 개발자.

주요 특징

• 범용 호환성: Claude Code, Cursor, Cline, Copilot을 포함한 광범위한 CLI 도구와 작동합니다.
• 방대한 제공업체 지원: OAuth 및 무료 제공업체를 포함하여 40개 이상의 API 제공업체와 100개 이상의 모델에 연결됩니다.
• 자동 폴백: 구독에서 저가형, 무료 모델로 원활하게 전환하여 다운타임 제로를 보장합니다.
• 토큰 최적화: RTK Token Saver가 도구 출력을 자동으로 압축하여 토큰을 20-40% 절약합니다.
• 멀티 계정 지원: 동일한 제공업체의 여러 계정 간에 라운드 로빈 라우팅을 구현합니다.