OEvortex/llm4free

LLM4Free — All-in-one Python toolkit for web search, AI interaction (40+ free providers), digital utilities, and more. Formerly WebScout.

What it solves

LLM4Free は、無料および有料のプロバイダーを含む 40 種類以上の異なる AI モデルにアクセスするための統一された Python インターフェースを提供します。OpenAI SDK と互換性のある単一の一貫した API にラップすることで、複数の異なる SDK を学習したり、管理すべき API キーを多数管理したりする必要性を排除します。

How it works

このツールキットは、client.chat.completions.create メソッドを実装する統一された Client を使用します。ユーザーは特定のプロバイダー (e.g., HeckAI/google/gemini-2.5-flash-preview) を指定するか、model="auto" を使用してライブラリに動作可能なプロバイダーを自動的に選択させ、エンドポイントがダウンした場合のフェイルオーバーを処理させることができます。また、ローカルの FastAPI server を含んでおり、あらゆる OpenAI 互換のアプリケーションが LLM4Free をバックエンドとして指定することが可能です。

Who it’s for

単一のプロバイダーに縛られることなく、複数の AI モデル (テキスト、画像、音声) をアプリケーションに統合したい開発者や、API キーを必要とせずに無料の AI モデルにアクセスする方法を探している人々。

Highlights

  • OpenAI Compatibility: OpenAI Python SDK と同じインターフェースを使用するため、プロバイダー間のシームレスな切り替えが可能です。
  • Auto-Failover: 高可用性を確保するために、異なるプロバイダー間で自動的にリトライを行います。
  • Multi-Modal Support: テキストから画像 (TTI) およびテキストから音声 (TTS) 生成の統合サポート。
  • Web Search Integration: DuckDuckGo、Bing、Brave などの複数の検索エンジンへの組み込みアクセス。
  • Local API Server: サポートされているプロバイダーをローカルで提供するための、そのまま使える OpenAI 互換 server。
  • Developer Toolbox: ウェブクローリング (Scout)、GitHub データ抽出、および GGUF 変換用のユーティリティツールが含まれています。