Ollama Python および JavaScript ライブラリのリリース
Ollama は、公式の Python および JavaScript ライブラリをリリースしました。これにより、開発者は数行のコードで LLM 機能をアプリケーションに統合できるようになります。これらのライブラリは、Ollama REST API の機能と機能を反映したプログラムインターフェースを提供します。
Python および JavaScript の公式ライブラリサポート
Ollama は現在、GitHub 経由で利用可能な Python および JavaScript 専用のライブラリを提供しています。これらのライブラリは、これらの言語を使用する開発者にとって、統合プロセスをシームレスにすることを目的として設計されています。
- Python ライブラリ: ollama-python
- JavaScript ライブラリ: ollama-js
コア機能と実装
Python と JavaScript の両方のライブラリは、chat、text completion、および multi-modal inputs を含む Ollama の全機能セットをサポートしています。
Chat と基本的な統合
開発者は ollama.chat メソッドを使用して、基本的なチャットインターフェースを実装できます。Python では、これは pip install ollama を介して行われ、指定されたモデル(llama2 など)とメッセージ配列を使用して chat 関数を呼び出すことで実現されます。
JavaScript では、インストールは npm install ollama を介して行われ、モデルとメッセージの設定を使用して await ollama.chat を使用します。
高度なユースケース
これらのライブラリは、いくつかの高度な LLM ワークフローをサポートしています。
- Streaming: Python ライブラリは
stream=Trueを使用してリアルタイムのレスポンス生成を可能にし、出力をチャンクとして表示することを可能にします。 - Multi-modal Inputs:
llavaのようなモデルを使用すると、開発者はメッセージ配列内で(バイナリとして読み込まれた)画像データを渡して、画像分析を実行できます。 - Text Completion:
ollama.generateメソッドは、プロンプトベースのテキスト補完を可能にし、これはstable-codeのようなモデルを使用したコード生成などのタスクに有用です。 - Custom Model Creation: 開発者は
ollama.createを使用して、modelfile(例:llama2のようなベースモデルとシステムプロンプトの指定)を定義することで、プログラム的に新しいモデルを作成できます。 - Custom Clients:
Clientクラスを使用すると、開発者は Ollama サーバーのカスタムホストを指定でき、host='my.ollama.host'を介してリモート接続が可能になります。
エコシステムとコミュニティの貢献
Ollama は、メインリポジトリとこれらの新しいライブラリを新しい GitHub 組織に移動しました: ollama。
Python と JavaScript の公式サポートが利用可能になった一方で、コミュニティは Dart、Swift、C#、Java、PHP、および Rust を含む他の言語用のライブラリを開発しています。Ollama は、コミュニティメンバーがこれらのライブラリに貢献したり、新しいライブラリを追加するためのプルリクエストを送信したりすることを奨励しています。
Sources
- OriginalPython & JavaScript Libraries
関連
- プロジェクト
- Dispatch
- Dispatch
- Dispatch
- プロジェクト