routatic/proxy

해결하는 문제

routatic-proxy는 Claude Code 사용자가 Anthropic 이외의 대체 LLM 제공업체를 사용할 수 있도록 설계된 Go 기반 CLI 프록시입니다. Claude Code 도구에 패치를 적용하거나 포크할 필요가 없도록, Anthropic API 요청을 가로채 OpenCode, AWS Bedrock, OpenRouter 등 다른 제공업체와 호환되는 형식으로 변환하는 투명한 중개자 역할을 수행합니다.

작동 방식

프록시는 Claude Code 클라이언트와 상류 LLM 제공업체 사이에 위치합니다. Anthropic 형식으로 전송된 요청을 가로채 선택된 제공업체(OpenAI, Gemini, Bedrock 등)의 네이티브 형식으로 변환합니다. 그런 다음 요청을 전달하고 응답을 Claude Code가 기대하는 형식으로 다시 변환합니다. 이 과정에는 서로 다른 API 표준 간의 도구 호출 메커니즘(예: tool_use 및 tool_result)을 번역하는 것도 포함됩니다.

대상 사용자

비용 절감, 속도 제한 회피, 또는 OpenCode Go와 같은 제공업체를 통해 특정 오픈소스 코딩 모델이나 AWS Bedrock을 통해 엔터프라이즈급 인프라를 활용하기를 원하는 Claude Code 개발자입니다.

주요 특징

• 멀티 제공업체 지원: OpenCode Go, OpenCode Zen, AWS Bedrock, OpenRouter를 지원합니다.
• 모델 라우팅: 컨텍스트(예: 사고 과정, 긴 컨텍스트, 백그라운드 작업)에 따라 요청을 다른 모델로 자동으로 라우팅합니다.
• 폴백 체인: 기본 모델이 실패하면 구성된 체인의 다음 모델을 자동으로 시도합니다.
• 서킷 브레이커: 모델 상태를 모니터링하여 실패하는 모델을 건너뛰고 지연 시간을 줄입니다.
• 실시간 스트리밍: 실시간 형식 변환을 지원하는 완전한 SSE 스트리밍을 지원합니다.
• 관리 대시보드: 실시간 지표, 요청 이력 모니터링 및 설정 편집을 위한 크로스 플랫폼 GUI를 포함합니다.
• 핫 리로드: 프록시를 재시작하지 않고도 설정 변경 사항을 자동으로 다시 로드합니다.