Ollama Python および JavaScript ライブラリのリリース

Ollama は、公式の Python および JavaScript ライブラリをリリースしました。これにより、開発者は数行のコードで LLM 機能をアプリケーションに統合できるようになります。これらのライブラリは、Ollama REST API の機能と機能を反映したプログラムインターフェースを提供します。

Python および JavaScript の公式ライブラリサポート

Ollama は現在、GitHub 経由で利用可能な Python および JavaScript 専用のライブラリを提供しています。これらのライブラリは、これらの言語を使用する開発者にとって、統合プロセスをシームレスにすることを目的として設計されています。

コア機能と実装

Python と JavaScript の両方のライブラリは、chat、text completion、および multi-modal inputs を含む Ollama の全機能セットをサポートしています。

Chat と基本的な統合

開発者は ollama.chat メソッドを使用して、基本的なチャットインターフェースを実装できます。Python では、これは pip install ollama を介して行われ、指定されたモデル(llama2 など)とメッセージ配列を使用して chat 関数を呼び出すことで実現されます。

JavaScript では、インストールは npm install ollama を介して行われ、モデルとメッセージの設定を使用して await ollama.chat を使用します。

高度なユースケース

これらのライブラリは、いくつかの高度な LLM ワークフローをサポートしています。

  • Streaming: Python ライブラリは stream=True を使用してリアルタイムのレスポンス生成を可能にし、出力をチャンクとして表示することを可能にします。
  • Multi-modal Inputs: llava のようなモデルを使用すると、開発者はメッセージ配列内で(バイナリとして読み込まれた)画像データを渡して、画像分析を実行できます。
  • Text Completion: ollama.generate メソッドは、プロンプトベースのテキスト補完を可能にし、これは stable-code のようなモデルを使用したコード生成などのタスクに有用です。
  • Custom Model Creation: 開発者は ollama.create を使用して、modelfile(例:llama2 のようなベースモデルとシステムプロンプトの指定)を定義することで、プログラム的に新しいモデルを作成できます。
  • Custom Clients: Client クラスを使用すると、開発者は Ollama サーバーのカスタムホストを指定でき、host='my.ollama.host' を介してリモート接続が可能になります。

エコシステムとコミュニティの貢献

Ollama は、メインリポジトリとこれらの新しいライブラリを新しい GitHub 組織に移動しました: ollama

Python と JavaScript の公式サポートが利用可能になった一方で、コミュニティは Dart、Swift、C#、Java、PHP、および Rust を含む他の言語用のライブラリを開発しています。Ollama は、コミュニティメンバーがこれらのライブラリに貢献したり、新しいライブラリを追加するためのプルリクエストを送信したりすることを奨励しています。

Sources

関連

  • プロジェクト
  • Dispatch
  • Dispatch
  • Dispatch
  • プロジェクト