OEvortex/llm4free

LLM4Free — All-in-one Python toolkit for web search, AI interaction (40+ free providers), digital utilities, and more. Formerly WebScout.

What it solves

LLM4Free 提供了一個統一的 Python 介面，用於存取超過 40 種不同的 AI 模型，包括免費和付費的提供者。它透過將這些模型封裝在一個與 OpenAI SDK 相容的單一、一致的 API 中，消除了學習多種不同 SDK 或管理眾多 API 金鑰的必要性。

How it works

該工具包使用一個統一的 Client，它實作了 client.chat.completions.create 方法。使用者可以指定特定的提供者（例如 HeckAI/google/gemini-2.5-flash-preview）或使用 model="auto" 讓函式庫自動選擇可用的提供者，並在端點失效時處理故障轉移。它還包含一個本地 FastAPI server，允許任何與 OpenAI 相容的應用程式將 LLM4Free 作為後端。

Who it’s for

想要在應用程式中整合多種 AI 模型（文字、圖像和語音）而不想被單一提供者綁定的開發者，以及正在尋找無需 API 金鑰即可存取免費 AI 模型的方法的人。

Highlights

  • OpenAI Compatibility: 使用與 OpenAI Python SDK 相同的介面，以便在不同提供者之間無縫切換。
  • Auto-Failover: 自動在不同提供者之間重試，以確保高可用性。
  • Multi-Modal Support: 整合了文字轉圖像 (TTI) 和文字轉語音 (TTS) 生成的支持。
  • Web Search Integration: 內建對 DuckDuckGo、Bing 和 Brave 等多種搜尋引擎的存取權。
  • Local API Server: 一個即插即用的 OpenAI 相容 server，可在本地提供任何受支援的提供者服務。
  • Developer Toolbox: 包含用於網路爬蟲 (Scout)、GitHub 資料提取和 GGUF 轉換的實用工具。"},