askalf/dario

해결하는 문제

dario는 사용자가 기존 유료 AI 구독(예: Claude Pro/Max 또는 ChatGPT Plus/Pro)을 Cursor, Aider, Cline, Zed와 같은 API 키가 필요한 모든 AI 도구나 스크립트에서 사용할 수 있도록 해주는 로컬 프록시입니다. 기존 소비자 구독을 통해 요청을 라우팅함으로써, 토큰 단위의 API 요금을 지불할 필요 없이 도구를 사용할 수 있습니다.

작동 방식

로컬 엔드포인트(http://localhost:3456)를 생성하여 브리지 역할을 합니다. 도구가 요청을 보낼 때, dario는 서로 다른 제공자 간의 요청 "워이어 형태"(프로토콜/포맷)를 변환합니다. 예를 들어, OpenAI 호환 요청을 Claude 구독이 이해할 수 있는 형식으로 변환하거나, 그 반대도 가능합니다.

주요 기술적 기능:

• 다중 계정 풀링: 여러 구독을 관리할 수 있으며, 요청을 사용 가능한 리소스가 가장 많은 계정으로 라우팅하여 레이트 제한을 피합니다.
• 세션 스티키니스: 대화를 특정 계정에 고정하여 Claude의 프롬프트 캐싱을 최대한 활용해 토큰 비용을 줄입니다.
• 패일오버: 한 계정이 레이트 제한되거나 다운되었을 경우, 자동으로 다른 구독(예: Claude에서 ChatGPT로)으로 전환합니다.
• 섀도우 비교: 동일한 프롬프트를 두 개의 다른 모델에서 동시에 실행하고 결과를 저장해 비교할 수 있지만, 주 요청에는 영향을 주지 않습니다.
• 오버레이 가드: 구독 풀 외부에서 청구되는 응답을 감지하면 자동으로 프록시를 중단하여 예기치 않은 비용을 방지합니다.

대상 사용자

유료 AI 구독을 보유하고 있으며, 제3자 AI 에이전트, IDE, 스크립트에서 해당 구독을 사용하고 싶지만, 추가적인 토큰 단위 API 요금을 지불하고 싶지 않은 개발자 및 고급 사용자.

주요 특징

• 통합 엔드포인트: Claude, ChatGPT, Groq, OpenRouter, 로컬 Ollama 등 여러 AI 제공자에 대해 하나의 로컬 URL 사용 가능.
• 구독 기반 요금제: API 크레딧이 아닌 기존 소비자 계획을 사용.
• 런타임 의존성 없음: 외부 런타임 의존성이 없으며, Node.js로 작성됨.
• 인터랙티브 TUI: 요청 스트림, 소모 속도, 계정 상태를 모니터링할 수 있는 전체 화면 제어 패널.
• 프로토콜 변환: Anthropic Messages 형식과 OpenAI Chat 형식 간을 원활하게 변환.