jonigl/mcp-client-for-ollama

解決的問題

ollmcp 是一個基於終端的客戶端，允許透過 Ollama 使用的本地 LLM 透過 Model Context Protocol (MCP) 與外部工具和資料來源互動。它彌補了本地模型推論與透過標準化協定執行程式碼、讀取檔案或存取 API 的能力之間的差距，為使用工具的代理提供一個安全且可互動的環境。

工作原理

此應用程式作為 TUI（終端使用者介面），透過 STDIO、SSE 或 Streamable HTTP 等多種傳輸方式連接一個或多個 MCP 伺服器。它管理 LLM 與這些伺服器之間的通訊，處理工具呼叫、提示範本與資源取得。它包含「人在迴路中」（Human-in-the-Loop）的安全機制，使用者必須在工具執行前核准，以及支援迭代式工具執行迴圈的「代理模式」。

適用對象

專為希望使用本地 LLM 執行自主或半自主任務、測試 MCP 伺服器，或在無需為每個工具撰寫自訂整合程式碼的情況下建構代理工作流程的開發者與 AI 愛好者設計。

主要特色

• 多伺服器支援：可同時透過不同傳輸類型連接多個 MCP 伺服器。
• 代理模式：支援可設定迴圈限制的迭代式工具執行。
• 人在迴路中（HIL）：審查並核准工具執行，以增強安全性。
• 廣泛提供者支援：雖以 Ollama 為優化，但也支援 DeepSeek 和 OpenRouter 等 OpenAI 相容提供者。
• 思考模式：對推理模型（例如 DeepSeek-R1）顯示可見的思考過程。
• 豐富的 TUI：支援模糊自動補全、串流回應與工具輸出的 JSON 語法強調。