ollama/ollama-js

解決する課題

JavaScriptアプリケーションとOllamaを統合するプロセスを簡素化する専用のJavaScriptライブラリを提供し、Ollama REST APIへの生のHTTPリクエストを手動で構築する必要をなくします。

仕組み

このライブラリはOllama REST APIのラッパーとして機能し、ローカルまたはクラウドホスト型のモデルと対話するための一連の非同期関数を提供します。Node.jsとブラウザ環境の両方をサポートし（特定のブラウザモジュール経由）、カスタムホストやヘッダーを含むカスタムクライアント設定が可能です。

対象ユーザー

Ollamaを使用して、チャット、テキスト生成、埋め込みなどのLLM機能をJavaScriptまたはTypeScriptアプリケーションに組み込みたい開発者。

主な特徴

• 柔軟なデプロイメント: ローカルのOllamaインスタンス、Ollamaのクラウドモデル、およびCloud APIへの直接アクセスをサポート。
• ストリーミングサポート: AsyncGenerator を使用したリアルタイムのレスポンスストリーミングを有効化。
• 包括的なモデル管理: モデルのプル、プッシュ、作成、コピー、削除を行うメソッドが含まれています。
• 高度な機能: マルチモーダル入力（画像）、ツール呼び出し、および特殊な「System One」構造化評価（選択、スコア、ブール値）をサポート。
• ユーティリティツール: ウェブ検索、ウェブフェッチ、埋め込み生成のための組み込み関数。