router-for-me/CLIProxyAPI
Wrap Antigravity, ChatGPT Codex, Claude Code, Grok Build, Muse Code, Devin as an OpenAI/Gemini/Claude/Codex compatible API service, allowing you to enjoy the free Gemini Series, GPT Series, Grok Series, Claude model through API
CLI Proxy API – 이것은 무엇인가
CLI Proxy API는 OpenAI 스타일의 HTTP API를 다양한 대규모 언어 모델 제공업체(OpenAI, Google Gemini, Anthropic Claude, xAI Grok, Kimi 등)에 대한 호출로 변환하는 셀프 호스팅 프록시 서버입니다. 이 프록시를 로컬에서 실행하면 api.openai.com 엔드포인트를 기대하는 기존 CLI 도구, SDK 또는 에디터 확장 프로그램을 그대로 사용할 수 있습니다. 프록시는 요청을 실제 제공업체로 전달하고, 인증(OAuth 또는 API 키)을 처리하며, 여러 계정 간에 트래픽을 분산할 수 있습니다.
핵심 기능 (README 설명 기준)
- 다중 제공업체 호환성 – OpenAI, Gemini, Claude, Grok, Kimi 등에 대한 OpenAI 호환 엔드포인트를 노출합니다.
- OAuth 및 API 키 로그인 – 각 제공업체의 기본 로그인 흐름을 지원하므로 도구에 원시 키를 노출할 필요가 없습니다.
- 로드 밸런싱 및 라운드 로빈 – 제공업체별로 여러 계정을 구성할 수 있으며 프록시가 자동으로 요청을 분산합니다.
- 스트리밍, 비스트리밍 및 WebSocket – 업스트림 모델이 지원하는 모든 응답 모드를 그대로 통과시킵니다.
- 함수 호출 / 도구 사용 – 함수 호출 페이로드를 전달하여 OpenAI의 함수 호출에 의존하는 도구가 수정 없이 작동하도록 합니다.
- 멀티모달 입력 – 업스트림 모델이 허용하는 경우 텍스트 및 이미지 페이로드를 수락합니다.
- 관리 API – 프록시를 검사하고 제어하기 위한 HTTP API를 설명하는 별도의 문서 파일(
MANAGEMENT_API.md)이 있습니다. - Go SDK – 재사용 가능한 Go 라이브러리(
docs/sdk-*.md)를 통해 개발자가 프록시 로직을 자신의 Go 프로그램에 직접 포함할 수 있습니다. - 선택적 사용량 추적 서비스 – 프로젝트 자체에는 통계 기능이 내장되어 있지 않지만, 로깅, 비용 추정 및 대시보드를 위해 CPA Usage Keeper 또는 CPA-Manager-Plus와 같은 타사 도우미 사용을 권장합니다.
일반적인 워크플로우
- 설치 프록시(또는 UI를 위한 동반 데스크톱 클라이언트 EasyCLIProxyAPI).
- 구성
config.yaml에서 하나 이상의 제공업체 계정을 구성합니다(OAuth 로그인 URL 제공). - 실행 프록시를 실행합니다. 로컬 포트(예:
http://127.0.0.1:8000)에서 수신 대기합니다. - OpenAI 호환 CLI 도구(예:
curl,openai-cli, VS Code 확장 프로그램)의 연결 대상을 공식 엔드포인트가 아닌 로컬 주소로 지정합니다. - 프록시가 요청을 전달하고 계정 간에 로드 밸런싱을 수행하며 변경되지 않은 응답을 반환합니다.
생태계 및 주요 통합
- 데스크톱 클라이언트 – EasyCLIProxyAPI(그래픽 UI, 트레이 아이콘, 자동 업데이트) 및 커뮤니티에서 구축한 여러 트레이/TUI 앱.
- 관리 대시보드 – Next.js/React로 구축된 웹 패널, VS Code 확장 프로그램 및 경량 PowerShell 트레이 도구.
- 타사 도구 – vibeproxy, Subtitle Translator, Claude Proxy VSCode, ZeroLimit 등의 프로젝트는 API 키를 직접 처리하지 않고도 AI 구독을 통합하기 위해 이 프록시에 의존합니다.
- 릴레이 서비스 – README에는 할인된 액세스를 제공하는 많은 후원 API 릴레이 제공업체(PackyCode, AICodeMirror 등)가 나열되어 있으며, 프록시는 "OpenRouter 스타일" 업스트림 구성을 통해 이들 중 어느 곳으로든 연결할 수 있습니다.
누가 사용해야 하는가?
- 개발자: 여러 유료 LLM 구독을 보유하고 있으며 모든 CLI 도구에 대해 단일 로컬 엔드포인트를 원하는 분.
- 도구 작성자: 특정 제공업체 SDK를 포함하고 싶지 않은 분. 범용 OpenAI 호환 클라이언트를 배포하고 사용자가 프록시를 실행하게 할 수 있습니다.
- 팀: 제공업체 간 할당량 추적, 자동 장애 조치 또는 비용 추정이 필요한 팀.
- 파워 유저: 기존 스크립트를 다시 작성하지 않고도 최신 모델(예: GPT-5.6, Claude Fable, Gemini 3.5 Flash)을 실험하고 싶은 분.
시작하기 및 문서
- 빠른 시작 가이드 – https://help.router-for.me/
- 관리 API 사양 –
MANAGEMENT_API.md(동일한 도움말 사이트에서 호스팅). - SDK 문서 –
docs/아래의 여러 Markdown 파일. 기본 사용법, 고급 실행기, 사용자 지정 제공업체 및 감시자 구성 요소를 다룹니다. - 커뮤니티 예제 –
examples/custom-provider폴더는 새로운 업스트림 서비스를 추가하는 방법을 보여줍니다.
라이선스 및 기여
저장소는 표준 fork-and-pull-request 워크플로우를 통한 기여를 환영합니다. 특별한 CLA는 언급되지 않았으며, 기여자는 일반적인 GitHub 프로세스를 따르도록 요청받습니다.
결론
CLI Proxy API는 로컬 명령줄 도구와 다양한 상용 LLM API 사이에 위치하는 진정한 오픈소스 유틸리티입니다. 이를 익숙한 OpenAI HTTP 스키마로 정규화하고 다중 계정 로드 밸런싱, OAuth 처리 및 선택적 모니터링 기능을 추가합니다. AI 인프라 분야에 위치하며, 서로 다른 모델 제공업체를 단일하고 상호 교환 가능한 백엔드로 취급하려는 모든 사람에게 유용합니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트