OEvortex/llm4free

LLM4Free — All-in-one Python toolkit for web search, AI interaction (40+ free providers), digital utilities, and more. Formerly WebScout.

What it solves

LLM4Free는 무료 및 유료 제공자를 포함하여 40개 이상의 서로 다른 AI 모델에에 접근할 수 있는 통합된 Python 인터페이스를 제공합니다. OpenAI SDK와 호환되는 단일하고 일관된 API로 모델들을 래핑하여, 여러 개의 서로 다른 SDK를 배우거나 수많은 API 키를 관리해야 하는 번거로움을 없애줍니다.

How it works

이 툴킷은 client.chat.completions.create 메서드를 구현하는 통합 Client를 사용합니다. 사용자는 특정 제공자(예: HeckAI/google/gemini-2.5-flash-preview)를 지정하거나 model="auto"를 사용하여 라이브러리가 작동 가능한 제공자를 자동으로 선택하고 엔드포인트가 다운될 경우 페일오버를 처리하도록 할 수 있습니다. 또한, 모든 OpenAI 호환 애플리케이션이 LLM4Free를 백엔드로 사용할 수 있도록 하는 로컬 FastAPI server를 포함하고 있습니다.

Who it’s for

단일 제공자에 종속되지 않고 여러 AI 모델(텍스트, 이미지, 음성)을 애플리케이션에 통합하려는 개발자, 그리고 API 키 없이 무료 AI 모델에 접근하려는 사람들을 위한 것입니다.

Highlights

OpenAI Compatibility: OpenAI Python SDK와 동일한 인터페이스를 사용하여 제공자 간의 원활한 전환이 가능합니다.
Auto-Failover: 높은 가용성을 보장하기 위해 서로 다른 제공자 간에 자동으로 재시도합니다.
Multi-Modal Support: 텍스트-이미지(TTI) 및 텍스트-음성(TTS) 생성에 대한 통합 지원을 제공합니다.
Web Search Integration: DuckDuckGo, Bing, Brave와 같은 여러 검색 엔진에 대한 내장된 접근을 제공합니다.
Local API Server: 지원되는 모든 제공자를 로컬에서 서비스할 수 있는 즉시 사용 가능한 OpenAI 호환 server입니다.
Developer Toolbox: 웹 크롤링 (Scout), GitHub 데이터 추출 및 GGUF 변환을 위한 유틸리티 도구를 포함합니다.