mfoud444/ollamafreeapi

OllamaFreeAPI – オープンソース LLM への無料アクセス

これは何か

• 公開ホストされたエンドポイントのセットをラップする Python パッケージで、いくつかのオープンソース大規模言語モデル（LLM）を提供します。このライブラリを使用すると、chat または stream_chat メソッドを介してこれらのモデルを呼び出すことができ、自分でモデルを実行したり、有料サービスに登録したりする必要はありません。

主なモデル

• LLaMA 3.2（3b パラメータ）
• Mistral（最新リリース）
• DeepSeek-R1（Qwen ベース）
• Gemma ベースの gpt-oss:20b
• いくつかの小規模または専門的なモデル（例：bakllava、smollm2）。

使用方法

from ollamafreeapi import OllamaFreeAPI
client = OllamaFreeAPI()
# 一回限りのリクエスト
resp = client.chat(model="gpt-oss:20b", prompt="5歳児にわかるようにニューラルネットワークを説明してください")
print(resp)
# ストリーミングリクエスト
for chunk in client.stream_chat('量子コンピューティングとは何ですか？', model='llama3.2:3b'):
    print(chunk, end='')

このパッケージは、エンドポイントの発見、負荷分散、およびオプションのトークンのストリーミングを処理します。

README で強調されている機能

• 常に無料 – サービスはクレジットカードや使用制限がないと主張しています。
• モデルカタログ – 3 つのファミリーにわたる 16 のアクティブなモデル、6 つのサーバーノード。
• 便利な API – モデルの一覧表示、モデル情報の取得、サーバーの場所の表示、および一般的な LLM パラメータの取得（LangChain 統合に便利）を行うメソッド。
• ドキュメント – クライアントリファレンス、例、モデルリスト、および Android ユーザー向けの Termux ガイド用の個別のマークダウンファイル。

誰が恩恵を受けるか

• ハードウェアを準備せずにオープンソース LLM をすばやく試したい開発者や愛好家。
• 言語モデルの機能をゼロコストでデモする方法を探している学生や教育者。
• コミュニティ運営のエンドポイントの遅延と信頼性を許容できる小規模プロジェクト。

制限 / 考慮事項

• サービスはコミュニティホストのノードに依存しています。稼働時間とパフォーマンスは保証されません。
• 認証や使用量の割り当てについては言及されておらず、スケーラビリティに影響を与える可能性があります。
• README には、レート制限、リクエストサイズ制限、またはセキュリティ（TLS 検証など）の詳細は記載されていません。

インストール

pip install ollamafreeapi --upgrade

ライセンス – MIT。クライアントコードを自由に使用および変更できます。

---

上記のすべての情報は、リポジトリの README から直接取得したものです。外部の仮定は追加されていません。