trefeon/freebucks-proxy

해결하는 문제

여러 AI 계정(특히 OpenAI 및 Anthropic 호환 엔드포인트)을 관리하고 통합하기 위한 통합 게이트웨이를 제공하여, 표준 API 인터페이스로 기본 인프라를 숨기면서 토큰 풀 전체에 요청을 분산할 수 있게 합니다.

작동 방식

이 프록시는 OpenAI 및 Anthropic 채팅 요청을 업스트림 서비스의 프로토콜로 변환하는 와이어 게이트웨이 역할을 합니다. 세 가지 모드로 작동합니다: Pooled(사전 정의된 토큰 세트 사용), Bridge(각 요청에서 제공된 토큰 중계), Hybrid(특정 자격 증명에는 풀을 사용하고 다른 것은 브리지). 관리용 내장 Svelte 대시보드를 포함하며, 브라우저와 유사한 TLS 스텔스 기능으로 차단을 피하는 데 도움을 주고, 자동 세션 수명 주기 관리 및 크레딧 측정을 제공합니다.

대상 사용자

여러 LLM 계정을 관리하고, API 부하를 분산하거나, 다양한 AI 모델에 대한 공유 액세스 포인트를 통합 API로 만들 필요가 있는 개발자 또는 운영자.

주요 기능

• 멀티 계정 풀링: 여러 업스트림 계정에 요청을 분산.
• API 호환성: OpenAI 및 Anthropic 호환 엔드포인트 지원.
• 내장 대시보드: /admin을 통해 관리할 수 있는 내장 Svelte SPA 포함.
• 스텔스 기능: 차단 위험을 줄이기 위한 선택적 브라우저 유사 TLS 스텔스.
• 유연한 라우팅: 토큰 처리를 위한 풀, 브리지, 하이브리드 모드 지원.