lidge-jun/opencodex

해결하는 문제

OpenCodex는 일반적으로 특정 공급자에 고정된 Codex, Claude Code, Claude Desktop, Grok Build와 같은 도구에서 모든 대규모 언어 모델(LLM)을 사용할 수 있게 해주는 로컬 프록시입니다. 이러한 도구의 특정 API 응답을 선택한 LLM 공급자(Gemini, DeepSeek, Ollama, Claude 등)가 이해할 수 있는 형식으로 변환하여 공급자 종속을 제거합니다.

작동 방식

AI 애플리케이션과 LLM 공급자 사이의 경량 변환 계층으로 작동합니다. Responses API를 스트리밍, 도구 호출, 추론 토큰으로 양방향 변환합니다. 사용자는 웹 대시보드 또는 CLI를 통해 공급자와 모델을 구성할 수 있으며, 프록시는 지원되는 애플리케이션의 요청을 대상 LLM으로 라우팅합니다.

대상 사용자

Codex, Claude Code, Claude Desktop, Grok Build의 특화된 인터페이스 내에서 선호하는 LLM(Ollama를 통한 로컬 모델 포함)을 사용하려는 개발자와 고급 사용자.

주요 기능

• 범용 모델 지원: 40개 이상의 내장 공급자 또는 모든 OpenAI 호환 엔드포인트를 특정 AI 코딩 도구에 연결합니다.
• ChatGPT 계정 풀링: 할당량 인식 자동 전환과 스레드 선호도로 여러 계정을 관리하여 대화 연속성을 유지합니다.
• ChatGPT 사이드카: ChatGPT 로그인을 사용하여 비OpenAI 모델에 웹 검색 및 비전 기능을 추가합니다.
• 모델 콤보: 서로 다른 공급자 간에 장애 조치 또는 가중 라운드 로빈 라우팅을 지원하는 가상 모델 ID를 생성합니다.
• 하위 에이전트 라우팅: 지원되는 도구의 하위 에이전트 선택기 내에서 라우팅 모델을 활성화합니다.
• 메모리 관리: 메모리 누수를 방지하기 위해 모든 장기 캐시에 엄격한 바이트 예산과 LRU 상한을 구현합니다.