router-for-me/CLIProxyAPI
Wrap Antigravity, ChatGPT Codex, Claude Code, Grok Build, Muse Code, Devin as an OpenAI/Gemini/Claude/Codex compatible API service, allowing you to enjoy the free Gemini Series, GPT Series, Grok Series, Claude model through API
CLI Proxy API란 무엇인가?
CLI Proxy API는 자체 호스팅 프록시 서버로, 명령줄 도구와 SDK가 기대하는 동일한 OpenAI 호환 HTTP 엔드포인트를 사용하여 많은 대규모 언어 모델 제공업체(OpenAI, Google Gemini, Anthropic Claude, xAI Grok, Meta Muse, Kimi 등)와 통신할 수 있게 해줍니다. 즉, 일반적인 openai 스타일 클라이언트를 프록시로 지정하면 프록시가 구성된 실제 제공업체로 요청을 전달하고, 인증, 여러 계정 간 부하 분산을 처리하며 제공업체별 특이 사항을 변환합니다.
이 프로젝트에는 다른 프로그램이 프록시 로직을 직접 포함할 수 있도록 Go SDK도 포함되어 있으며, 사용량, 비용 및 계정 상태를 모니터링하기 위한 선택적 관리 콘솔(CPA‑Manager‑Plus, Oh‑My‑CPA 등)도 포함되어 있습니다.
누가 필요로 할까?
- 여러 AI 구독을 가진 개발자 – ChatGPT‑plus 계정, Gemini Pro 키, Claude Code 구독 등이 있는 경우 프록시를 구성하여 자동으로 순환시켜 속도 제한을 피하고 각 요청에 대해 가장 저렴한 모델을 얻을 수 있습니다.
- 도구 작성자 – OpenAI 스타일 엔드포인트를 기대하는 모든 CLI 또는 IDE 플러그인은 코드 변경 없이 모든 지원 모델에서 작동할 수 있습니다.
- 로컬 제어를 원하는 팀 – 프록시는 자체 머신(또는 서버)에서 실행되므로 API 키를 내부에 유지하고 사용자 지정 로깅, 캐싱 또는 비용 추적을 추가할 수 있습니다.
핵심 기능(README에 설명된 대로)
| 기능 | 설명 |
|---|---|
| 다중 제공업체 호환성 | 다양한 모델(Kimi K3, OpenAI GPT‑6 시리즈, Claude Fable/Opus/Sonnet/Haiku, Gemini 4 Argon, Grok 4.7, Meta Muse 등)에 대해 OpenAI‑, Gemini‑, Claude‑, Grok‑호환 API를 노출합니다. |
| 각 제공업체에 대한 OAuth 로그인 | 간단한 CLI 명령(--gemini-login, --openai-login, …)으로 토큰을 수동으로 처리하지 않고 계정을 추가할 수 있습니다. |
| 라운드 로빈 부하 분산 | 동일한 제공업체에 대해 여러 계정이 있는 경우 프록시가 요청을 균등하게 분산하여 안정성과 처리량을 향상시킵니다. |
| 스트리밍 및 WebSocket 지원 | 업스트림 모델이 제공하는 경우 스트리밍 완료 및 WebSocket 기반 채팅을 투과적으로 전달합니다. |
| 함수 호출 / 도구 사용 | 프록시가 함수 호출 페이로드를 전달하므로 OpenAI 사양을 기반으로 구축된 도구가 계속 작동합니다. |
| 다중 모달 입력 | 텍스트와 이미지 데이터를 모두 허용합니다(업스트림 모델이 비전을 지원하는 경우). |
| Generative‑Language API‑key 모드 | 자체 애플리케이션에 단일 “프록시 키”를 사용할 수 있습니다. 프록시는 백그라운드에서 실제 제공업체 키를 주입합니다. |
| 구성 가능한 업스트림 제공업체 | 내장 목록 외에도 프록시를 모든 OpenAI 호환 서비스(예: OpenRouter)로 지정할 수 있습니다. |
| 재사용 가능한 Go SDK | 다른 Go 프로그램에 프록시 로직을 포함하기 위한 라이브러리(docs/sdk-*.md). |
| 관리 및 관찰 가능성 | 선택적 대시보드(CPA‑Usage‑Keeper, CPA‑Manager‑Plus, Oh‑My‑CPA)는 요청 로그, 토큰 수, 지연 시간 및 비용 분석을 SQLite에 저장하여 제공합니다. |
시작하는 방법
- 프록시 실행 – 리포지토리를 클론하고 바이너리를 시작합니다(또는 Docker 이미지 사용). README는 자세한 단계를 위해
https://help.router-for.me/의 웹 기반 가이드를 가리킵니다. - 제공업체 계정 추가 – CLI 플래그(
--openai-login,--gemini-login등)를 사용하거나 구성 파일을 편집하여 API 키/OAuth 토큰을 제공합니다. - 도구를 프록시로 지정 – 모든 OpenAI 호환 클라이언트의 엔드포인트 URL을
http://localhost:PORT/v1(또는 선택한 포트)로 변경합니다. - 선택적 UI – 컴패니언 데스크톱 클라이언트 EasyCLIProxyAPI를 설치하여 시스템 트레이 UI, 원클릭 시작/중지 및 자동 업데이트를 이용하세요.
생태계 및 관련 프로젝트
여러 타사 도구가 이미 CLI Proxy API를 기반으로 구축되었습니다:
- vibeproxy – API 키를 노출하지 않고 Claude Code 및 ChatGPT를 사용할 수 있는 macOS 메뉴 바 앱.
- Subtitle Translator – 프록시를 통해 LLM 구독을 사용하여 SRT 파일을 번역하는 데스크톱/웹 앱.
- CCS (Claude Code Switch) – 여러 Claude 계정 간에 즉시 전환하기 위한 CLI 래퍼.
- Quotio – 할당량을 집계하고 제공업체 간에 스마트 장애 조치를 수행하는 macOS 메뉴 바 앱.
누가 유지 관리하나요?
리포지토리는 router‑for‑me 조직이 소유하고 있습니다. 다양한 AI 릴레이 서비스(PackyCode, AICodeMirror 등)에 대한 스폰서 링크가 포함되어 있지만 핵심 프록시 코드는 오픈 소스이며 풀 리퀘스트를 통한 커뮤니티 기여를 받습니다.
TL;DR
CLI Proxy API는 OpenAI 스타일 클라이언트를 수십 개의 LLM 제공업체와 함께 작동하게 하고, 인증, 다중 계정 부하 분산 및 선택적 사용량 대시보드를 처리하는 로컬 실행 프록시입니다. 여러 AI 구독을 관리하는 개발자나 도구를 위한 단일 제어 가능한 엔드포인트를 원하는 개발자에게 유용합니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트