aledipa/Free-GPT4-WEB-API

何を解決するか

現代の大規模言語モデル（LLM）であるGPT-4やDeepSeek-R1に、公式のAPIキーまたは有料サブスクリプションなしで無料でアクセスできる方法を提供します。高額なAPIコストやレート制限の問題を、無料のプロバイダーを1つの自己ホスト型HTTPインターフェースに統合することで解決します。

動作方法

このプロジェクトは、g4fライブラリを利用して、BingやDuckDuckGoなどのさまざまな無料LLMプロバイダーにリクエストをルーティングするプロキシサーバーとして機能します。シンプルなWeb APIを通じて、プレーンテキストの応答を返すモデルを公開します。特定のプロバイダーがブロックされたり過負荷になった場合でも応答を確実に提供できるように、自動プロバイダーフォールバック、ヘルスモニタリング、スマートタイムアウト処理などの信頼性機能を備えています。

対象ユーザー

APIアクセスに費用を支払いたくない開発者や趣味のユーザー向けです。Siri（Apple Shortcuts経由）を含む独自のアプリケーションやワークフローにLLM機能を統合したい人におすすめです。

特徴

• ゼロコスト：アクセスにAPIキーまたはサブスクリプションは一切不要です。
• 柔軟なデプロイ：PythonソースまたはDockerコンテナで実行可能です。
• 管理GUI：モデル、プロバイダー、クッキーの設定に使えるオプションのWebベースインターフェースを備えています。
• 高可用性：プロバイダー間の自動切り替えと、問題のあるソースをブラックリスト化する仕組みを備えています。
• カスタマイズ可能：システムプロンプト、メッセージ履歴、制限付きアクセス用のプライベートモードをサポートしています。