OEvortex/llm4free

LLM4Free — All-in-one Python toolkit for web search, AI interaction (40+ free providers), digital utilities, and more. Formerly WebScout.

What it solves

LLM4Free 提供了一个统一的 Python 接口，用于访问超过 40 种不同的 AI 模型，包括免费和付费的提供商。它通过将这些模型封装在一个与 OpenAI SDK 兼容的单一、一致的 API 中，消除了学习多个不同 SDK 或管理众多 API 密钥的必要性。

How it works

该工具包使用一个统一的 Client，它实现了 client.chat.completions.create 方法。用户可以指定特定的提供商 (e.g., HeckAI/google/gemini-2.5-flash-preview) 或使用 model="auto" 让库自动选择一个可用的提供商并在端点失效时处理故障转移。它还包含一个本地 FastAPI server，允许任何 OpenAI 兼容的应用程序将其作为后端。

Who it’s for

想要在应用程序中集成多种 AI 模型 (文本、图像和语音) 而不想被单一提供商锁定，以及正在寻找无需 API 密钥即可访问免费 AI 模型的人。

Highlights

  • OpenAI Compatibility: 使用与 OpenAI Python SDK 相同的接口，以便在不同提供商之间无缝切换。
  • Auto-Failover: 自动在不同提供商之间重试，以确保高可用性。
  • Multi-Modal Support: 集成了对文本到图像 (TTI) 和文本到语音 (TTS) 生成的支持。
  • Web Search Integration: 内置对 DuckDuckGo、Bing 和 Brave 等搜索引擎的访问。
  • Local API Server: 一个即插即用的 OpenAI 兼容 server，可用于在本地提供任何受支持的提供商服务。
  • Developer Toolbox: 包含用于网络爬虫 (Scout)、GitHub 数据提取和 GGUF 转换的实用工具。