xtekky/gpt4free

GPT4Free (g4f) – 社群驅動的多提供者 LLM 工具包

是什麼 – 一個 Python 套件（亦提供 Docker 影像與輕量級 Web GUI），可透過單一 OpenAI 相容介面呼叫多種大型語言模型與媒體生成服務。整合公開 API、瀏覽器自動化提供者與本地推理後端，提供以下功能：

• Python 客戶端（g4f.client / g4f.AsyncClient）
• 瀏覽器端 JavaScript 客戶端（g4f.dev CDN）
• 可選的 FastAPI「Interference」伺服器，模擬 OpenAI REST API
• 本地 Web GUI，用於聊天與媒體生成
• MCP 伺服器，讓其他助理（如 Claude）可呼叫網路搜尋、網頁抓取或圖像生成。

核心元件

元件	目的
Python 套件	Client/AsyncClient 提供 chat.completions.create 與 images.generate 方法，可自動選擇最佳提供者（model="auto"），或指定提供者（如 flux, glm-5.3）。
Web GUI	簡單的聊天介面，可透過 http://localhost:8080/chat/ 存取。可透過 run_gui() 或 CLI 啟動。
FastAPI Interference API	暴露 OpenAI 相容的 /v1 端點，適用於預期 OpenAI 的現有工具。Swagger UI 在 /docs。
Docker 影像	適用於 x86_64/arm64 的完整影像（hlohaus789/g4f）與精簡影像（…:latest-slim）。卷可儲存瀏覽器 HAR/cookies 與生成的媒體。
MCP 伺服器	JSON-RPC/HTTP 服務，為外部 AI 代理提供 web_search、web_scrape 與 image_generation 工具。
提供者適配器	g4f/Provider/ 底下的程式碼實作了與 OpenAI 相容端點、PerplexityLabs、Gemini、MetaAI、Pollinations（媒體）以及本地模型執行時等服務的連接。

如何開始

1. 安裝 – pip install -U g4f[all]（或拉取 Docker 影像）。
2. 執行 –
   • GUI：python -m g4f.cli gui --port 8080
   • API：python -m g4f --port 8080
   • MCP：g4f mcp --http --port 8765
3. 呼叫 API – Python 範例程式碼：

   from g4f.client import Client
   c = Client()
   resp = c.chat.completions.create(model="auto",
                                    messages=[{"role":"user","content":"Hello!"}])
   print(resp.choices[0].message.content)
   

   該套件會自動選擇可用的最佳提供者。

為何重要 – 它降低了實驗多種 LLM 服務的門檻，無需管理多個 SDK 或 API 金鑰。透過提供 OpenAI 相容層，現有程式碼庫（如 LangChain、Pydantic-AI 等）可僅做最小修改，切換至免費或社群主機的後端。

授權與社群 – GPL-v3 授權，鼓勵開放協作。開發由 @xtekky（創作者）與 @hlohaus（維護者）主導，擁有活躍的 Discord/Telegram 社群，並可透過 GitHub 贊助支援。

典型用例

• 快速原型開發可回退至任意可達模型的聊天機器人。
• 透過 Pollinations 等提供者生成圖像、音訊、影片等媒體。
• 運行自架的 OpenAI 相容端點，用於內部工具。
• 透過 MCP 伺服器，讓其他 AI 助手能執行網路搜尋或生成圖像。

資源

• 文件與即時示範：https://g4f.dev
• PyPI：https://pypi.org/project/g4f
• Docker Hub：https://hub.docker.com/r/hlohaus789/g4f
• GitHub：https://github.com/xtekky/gpt4free