aledipa/Free-GPT4-WEB-API

해결하는 문제

GPT-4 및 DeepSeek-R1과 같은 최신 대규모 언어 모델(Large Language Models, LLM)에 공식 API 키나 유료 구독 없이 무료로 접근할 수 있는 방법을 제공합니다. 무료 제공자들을 하나의 자체 호스팅 HTTP 인터페이스로 통합함으로써 높은 API 비용과 제한된 요청 속도 문제를 해결합니다.

작동 방식

이 프로젝트는 g4f 라이브러리를 활용하여 Bing, DuckDuckGo 등 다양한 무료 LLM 제공자로 요청을 라우팅하는 프록시 서버로 작동합니다. 단순한 웹 API를 통해 텍스트 응답을 반환합니다. 특정 제공자가 차단되거나 과부하 상태일 경우에도 응답을 안정적으로 제공할 수 있도록 자동 제공자 백업, 건강 모니터링, 스마트 타임아웃 처리와 같은 신뢰성 기능을 포함하고 있습니다.

대상 사용자

API 접근에 비용을 지불하고 싶지 않은 개발자 및 애호가를 위한 것입니다. Siri(Apple Shortcuts를 통해)를 포함한 자체 애플리케이션 또는 워크플로우에 LLM 기능을 통합하고 싶은 분들에게 적합합니다.

주요 특징

• 무료 사용: API 키나 구독 없이도 접근 가능합니다.
• 유연한 배포: Python 소스 또는 Docker 컨테이너로 실행 가능합니다.
• 관리 GUI: 모델, 제공자, 쿠키 설정에 사용할 수 있는 선택적 웹 기반 인터페이스를 포함합니다.
• 고가용성: 제공자 간 자동 전환 및 문제 있는 소스를 블랙리스트로 관리하는 시스템을 갖추고 있습니다.
• 사용자 정의 가능: 시스템 프롬프트, 메시지 기록, 제한된 접근을 위한 프라이빗 모드를 지원합니다.