mfoud444/ollamafreeapi

OllamaFreeAPI – 免费访问开源 LLM

这是什么

• 一个 Python 包，封装了一组公开托管的端点，提供多种开源大型语言模型（LLM）。该库让您通过简单的 chat 或 stream_chat 方法调用这些模型，无需自行运行模型或注册付费服务。

主要模型

• LLaMA 3.2（3b 参数）
• Mistral（最新版本）
• DeepSeek-R1（基于 Qwen）
• 基于 Gemma 的 gpt-oss:20b
• 几个较小或专门的模型（例如 bakllava、smollm2）。

如何使用

from ollamafreeapi import OllamaFreeAPI
client = OllamaFreeAPI()
# 一次性请求
resp = client.chat(model="gpt-oss:20b", prompt="用五岁小孩能懂的方式解释神经网络")
print(resp)
# 流式请求
for chunk in client.stream_chat('什么是量子计算？', model='llama3.2:3b'):
    print(chunk, end='')

该包处理端点发现、负载均衡和可选的 token 流式传输。

README 中强调的功能

• 永远免费 – 服务声称无需信用卡或使用限制。
• 模型目录 – 三个系列共 16 个活跃模型，6 个服务器节点。
• 方便的 API – 方法可列出模型、获取模型信息、查看服务器位置，以及检索通用 LLM 参数（对 LangChain 集成有用）。
• 文档 – 独立的 markdown 文件，包含客户端参考、示例、模型列表，以及给 Android 用户的 Termux 指南。

谁可能受益

• 想要快速实验开源 LLM 而无需准备硬件的开发者或爱好者。
• 寻找零成本方式演示语言模型能力的学生或教育工作者。
• 能容忍社区运行端点的延迟和可靠性的小型项目。

限制 / 考量

• 服务依赖社区托管的节点；正常运行时间和性能不保证。
• 未提及身份验证或使用配额，可能影响可扩展性。
• README 未详细说明速率限制、请求大小限制或安全性（例如 TLS 验证）。

安装

pip install ollamafreeapi --upgrade

许可证 – MIT，因此您可以自由使用和修改客户端代码。

---

以上所有信息直接取自仓库的 README；未添加任何外部假设。