romgX/openrelay

해결하는 문제

OpenRelay는 특정 AI 구독(예: Claude Pro 또는 Cursor)이 고유의 애플리케이션에 고정되어 있는 "AI 구독 사각지대" 문제를 해결합니다. 사용자는 다양한 공급업체에서 제공하는 여러 AI 모델의 할당량을 집계하여, 표준 API를 지원하는 모든 AI 도구나 IDE에서 사용할 수 있도록 합니다.

작동 방식

OpenRelay는 로컬 프록시 및 집계기로 작동합니다. Claude Desktop, VS Code Copilot, Windsurf 등의 로컬 AI 세션을 자동 탐지하고, Groq, DeepSeek, Gemini 등의 직접 API 제공업체에 연결합니다. 그런 다음 Claude Code, Aider, Continue와 같은 도구가 사용할 수 있는 단일 로컬 엔드포인트(일반적으로 http://localhost:18765)를 제공합니다.

IDE의 경우, ConnectRPC, HTTP/2 등의 RPC 프록시 또는 Ollama BYOK 브리지와 같은 브리지 기술을 사용하여 Cursor, Windsurf, VS Code Copilot와 같은 도구에 외부 할당량을 주입합니다.

대상 사용자

다양한 플랫폼에서 여러 AI 구독 또는 무료 트라이얼을 보유하고 있으며, 가장 비용 효율적 또는 성능이 뛰어난 모델로 요청을 라우팅할 수 있는 통합된 방법을 원하는 개발자 및 AI 고급 사용자.

주요 기능

• 통합 대시보드: 단일 웹 인터페이스에서 58개 이상의 비가상 공급업체를 관리 가능.
• 도구 간 호환성: 어떤 도구(예: Aider 또는 Claude Code)에서도 어떤 할당량(예: Claude Pro)을 사용 가능. 기본 URL만 변경하면 됨.
• IDE 통합: Cursor, Windsurf, VS Code Copilot에 외부 할당량을 원활하게 통합.
• 자동 장애 대체: 여러 공급업체를 가상 모델 그룹으로 결합하여 라운드로빈 및 자동 장애 대체를 통해 가용성 보장.
• 로컬 우선 보안: 자격 증명과 토큰은 사용자 기계에 유지되며, 요청은 OpenRelay 서버를 거치지 않고 직접 공급업체로 전달됨.