xtekky/gpt4free

GPT4Free (g4f) – 커뮤니티 주도의 다중 제공업체 LLM 툴킷

무엇인가요 – 단일 OpenAI 호환 인터페이스를 통해 다양한 대규모 언어 모델 및 미디어 생성 서비스를 호출할 수 있는 Python 패키지 (Docker 이미지 및 간단한 웹 GUI로도 제공). 공개 API, 브라우저 자동화 제공업체, 로컬 추론 백엔드를 통합하여 다음을 제공합니다:

• Python 클라이언트 (g4f.client / g4f.AsyncClient)
• 브라우저 측 JavaScript 클라이언트 (g4f.dev CDN)
• OpenAI REST API를 모방하는 선택적 FastAPI "Interference" 서버
• 채팅 및 미디어 생성을 위한 로컬 웹 GUI
• 다른 어시스턴트(예: Claude)가 웹 검색, 스크래핑, 이미지 생성을 수행할 수 있도록 해주는 MCP 서버.

주요 구성 요소

구성 요소	목적
Python 라이브러리	Client/AsyncClient는 chat.completions.create 및 images.generate 메서드를 제공하며, 자동으로 최적의 제공업체를 선택(모델="auto")하거나 지정 가능(예: flux, glm-5.3).
웹 GUI	http://localhost:8080/chat/에서 접근 가능한 간단한 채팅 UI. run_gui() 또는 CLI로 시작 가능.
FastAPI Interference API	OpenAI 호환 /v1 엔드포인트를 노출하며, 기존 도구(OpenAI를 기대하는)에 유용. Swagger UI는 /docs에.
Docker 이미지	x86_64/arm64용 전체 이미지(hlohaus789/g4f) 및 슬림 이미지(…:latest-slim). 볼륨은 브라우저 HAR/쿠키 및 생성된 미디어를 저장.
MCP 서버	외부 AI 에이전트를 위한 JSON-RPC/HTTP 서비스로, web_search, web_scrape, image_generation 도구 제공.
프로바이더 어댑터	g4f/Provider/ 아래의 코드로 OpenAI 호환 엔드포인트, PerplexityLabs, Gemini, MetaAI, Pollinations(미디어), 로컬 모델 런타임 등에 대한 연결 구현.

시작 방법

1. 설치 – pip install -U g4f[all] (또는 Docker 이미지 다운로드).
2. 실행 –
   • GUI: python -m g4f.cli gui --port 8080
   • API: python -m g4f --port 8080
   • MCP: g4f mcp --http --port 8765
3. API 호출 – 예제 Python 스크립트:

   from g4f.client import Client
   c = Client()
   resp = c.chat.completions.create(model="auto",
                                    messages=[{"role":"user","content":"Hello!"}])
   print(resp.choices[0].message.content)
   

   라이브러리는 자동으로 사용 가능한 최적의 제공업체를 선택합니다.

왜 중요한가 – 별도의 SDK나 API 키를 관리하지 않고도 여러 LLM 서비스를 실험할 수 있는 장벽을 낮춥니다. OpenAI 호환 레이어를 제공함으로써 기존 코드베이스(LangChain, Pydantic-AI 등)는 최소한의 변경으로 무료 또는 커뮤니티 호스팅 백엔드로 전환할 수 있습니다.

라이선스 및 커뮤니티 – GPL-v3 라이선스로, 개방적 협업을 장려합니다. 개발은 @xtekky(창시자)와 @hlohaus(유지보수자)가 주도하며, 활발한 Discord/Telegram 커뮤니티와 GitHub를 통한 후원 옵션이 있습니다.

일반적인 사용 사례

• 어떤 접근 가능한 모델로도 백업 가능한 챗봇의 빠른 프로토타이핑.
• Pollinations 등의 제공업체를 통한 미디어 생성(이미지, 오디오, 비디오).
• 내부 도구용 자체 호스팅 OpenAI 호환 엔드포인트 운영.
• MCP 서버를 통해 다른 AI 어시스턴트가 웹 검색 또는 이미지 생성을 수행할 수 있도록 하기.

자료

• 문서 및 실시간 데모: https://g4f.dev
• PyPI: https://pypi.org/project/g4f
• Docker Hub: https://hub.docker.com/r/hlohaus789/g4f
• GitHub: https://github.com/xtekky/gpt4free