Ollama Python 和 JavaScript 函式庫發佈

Ollama 已發佈官方 Python 和 JavaScript 函式庫，讓開發者只需幾行程式碼即可將 LLM 能力整合到其應用程式中。這些函式庫提供了一個程式化介面，其功能與 Ollama REST API 的功能和特性相符。

Official Library Support for Python and JavaScript

Ollama 現在透過 GitHub 提供 Python 和 JavaScript 的專用函式庫。這些函式庫旨在讓使用這些語言的開發者能夠無縫進行整合過程。

• Python Library: ollama-python
• JavaScript Library: ollama-js

Core Capabilities and Implementation

Python 和 JavaScript 函式庫皆支援 Ollama 的全套功能，包括聊天、文本補全和多模態輸入。

Chat and Basic Integration

開發者可以使用 ollama.chat 方法來實作基本的聊天介面。在 Python 中，這可以透過 pip install ollama 並使用指定的模型（例如 llama2）和訊息陣列來呼叫 chat 函數來達成。

在 JavaScript 中，安裝方式為透過 npm install ollama 並使用 await ollama.chat 搭配模型和訊息配置。

Advanced Use Cases

這些函式庫支援多種進階的 LLM 工作流程：

• Streaming: Python 函式庫允許使用 stream=True 進行即時回應生成，使輸出可以以區塊形式列印。
• Multi-modal Inputs: 使用像 llava 這樣的模型，開發者可以在訊息陣列中傳遞圖像數據（以二進位讀取）來進行圖像分析。
• Text Completion: ollama.generate 方法可實現基於提示詞的文本補全，這對於使用像 stable-code 這樣的模型進行程式碼生成等任務非常有用。
• Custom Model Creation: 開發者可以使用 ollama.create 透過定義 modelfile（例如指定像 llama2 這樣的基礎模型和系統提示詞）來程式化地建立新模型。
• Custom Clients: Client 類別允許開發者為 Ollama 伺服器指定自定義主機，從而透過 host='my.ollama.host' 進行遠端連接。

Ecosystem and Community Contributions

Ollama 已將其主要儲存庫和這些新函式庫移至新的 GitHub 組織：ollama。

雖然現在已提供 Python 和 JavaScript 的官方支援，但社群已為其他語言開發了函式庫，包括 Dart、Swift、C#、Java、PHP 和 Rust。Ollama 鼓勵社群成員為這些函式庫做出貢獻或提交 pull requests 以新增其他語言的函式庫。