ollama/ollama

这是什么？

Ollama 是一款软件，可让您直接在自己的计算机或服务器上下载、运行和管理开源 AI 模型（如 Gemma 4）。与其将数据发送到 OpenAI 等远程云服务，模型在本地硬件上运行，为您提供完全的隐私。

您可以将其视为 AI 模型的本地“服务器”。安装 Ollama，告诉它您需要的模型，它会处理下载和运行该模型的所有技术细节——无需特殊的 AI 专业知识或昂贵的云账户。

这有什么用？

• 隐私：您的对话和数据永远不会离开您的机器。
• 对开发者友好：它提供简单的 REST API（localhost:11434）以及官方的 Python 和 JavaScript 库，让您可以轻松地将 AI 添加到自己的应用中。
• 与您的工具配合使用：您可以将其连接到编码助手（如 Claude Code 或 Codex）以在本地运行 AI，或通过 OpenClaw 为消息应用上的个人助理提供支持。
• 巨大的生态系统：由于它易于使用，数百个第三方工具（如 Open WebUI 等聊天界面、LangChain 和 AutoGPT 等代理框架，以及 RAGFlow 等 RAG 系统）都开箱即用地支持它。

工作原理

它在您的机器上以三个主要界面运行：

1. 命令行：输入 ollama run gemma4 即可在终端中直接聊天。
2. REST API：向 http://localhost:11434/api/chat 发送 curl 请求，附带您的提示，即可获得响应。这是其他软件与之通信的方式。
3. 官方 SDK：安装 pip install ollama（Python）或 npm i ollama（JavaScript），从您自己的代码中调用模型。

在底层，Ollama 使用 llama.cpp，这是一个高效的开源项目，使得在标准消费级硬件（如笔记本电脑的 CPU 或 GPU）上运行大型 AI 模型成为可能，而无需配备大量专用 AI 芯片的服务器。

简而言之，这是以您自己的方式开始构建或试验开源 AI 模型的最简单途径。