ollama/ollama-js

它解决了什么问题

它提供了一个专用的 JavaScript 库，简化了将 JavaScript 应用程序与 Ollama 集成的过程，无需手动构建原始 HTTP 请求来调用 Ollama REST API。

运作方式

该库作为 Ollama REST API 的封装器，提供了一组异步函数来与本地或云端托管的模型进行交互。它同时支持 Node.js 和浏览器环境（通过特定的浏览器模块），并允许自定义客户端配置，包括自定义主机和标头。

适用对象

想要使用 Ollama 将 LLM 功能（如聊天、文本生成和嵌入）集成到 JavaScript 或 TypeScript 应用程序中的开发者。

特色亮点

• 灵活部署：支持本地 Ollama 实例、Ollama 云端模型以及直接访问 Cloud API。
• 流式支持：使用 AsyncGenerator 实现实时响应流。
• 全面的模型管理：包含拉取、推送、创建、复制和删除模型的方法。
• 进阶功能：支持多模态输入（图像）、工具调用以及专门的“System One”结构化评估（选择、评分和布尔值）。
• 实用工具：内置用于网络搜索、网页抓取和生成嵌入的函数。