jonigl/mcp-client-for-ollama

Harness the power of local LLMs with this TUI MCP Client for Ollama. Featuring all core MCP primitives (tools, prompts, resources), agent mode, multi-server, model switching, streaming responses, human-in-the-loop, thinking mode, model params config, system prompts, and saved preferences.

解决的问题

ollmcp 是一个基于终端的客户端,允许用户通过 Ollama 将本地大型语言模型(LLM)连接到 Model Context Protocol (MCP) 服务器。它弥合了本地 LLM 与外部工具、提示词和资源之间的差距,提供了一个受控环境来执行高级工具调用任务,而无需用户编写代码。

工作原理

该应用程序作为一个 TUI(终端用户界面),使用多种传输类型(STDIO、SSE 或 Streamable HTTP)连接到一个或多个 MCP 服务器。它支持核心 MCP 原语——工具、提示词和资源——并将它们与 LLM 提供商集成。当模型请求工具调用时,客户端管理执行,并可配置为“代理模式”(迭代工具执行)或“人在回路中”(需要手动批准后才执行)。

适用对象

专为希望在终端环境中使用本地 LLM 执行工具、测试 MCP 服务器或构建代理工作流的工程师、开发人员和 AI 爱好者设计。

亮点

  • 代理模式:支持迭代工具执行,并具有可配置的循环限制。
  • 多服务器支持:同时连接到多个 MCP 服务器,涵盖不同传输类型。
  • 人在回路中(HIL):通过要求用户审查和批准工具执行来提供安全控制。
  • 广泛的提供商支持:默认与 Ollama 配合使用,也支持 OpenAI 兼容的提供商,如 OpenRouter、DeepSeek 和 Atlas Cloud。
  • 高级模型控制:提供 15+ 个参数的微调,包括上下文窗口大小和温度。
  • 思考模式:支持兼容模型(例如 DeepSeek-R1)的可见推理过程。
  • 开发者友好:包括 MCP 服务器的热重载、命令的模糊自动完成以及详细的性能指标。

相关

  • 项目
  • 项目
  • 项目
  • Dispatch
  • 项目