stacklok/toolhive

解決的問題

ToolHive 提供了一種安全且可擴展的方式來執行和管理 Model Context Protocol (MCP) 伺服器。它解決了在本地執行不受信任的工具伺服器所帶來的安全風險、企業團隊缺乏集中治理的問題，以及向 LLM 提供過多工具描述所導致的高昂令牌成本。

工作原理

ToolHive 採用由四個主要部分組成的模組化架構：

• 閘道器：作為入口點，管理認證（OIDC/OAuth）、授權策略與工具過濾，以減少令牌使用量。
• 註冊伺服器：一個經過篩選的可信 MCP 伺服器目錄，允許團隊發現並部署經過驗證的工具。
• 執行時：透過 Docker、Podman 或 Kubernetes 在隔離的容器中處理 MCP 伺服器的實際執行，以確保安全性與資源隔離。
• 介面：提供桌面 UI 和 CLI 讓使用者搜尋與設定伺服器，並提供 Kubernetes Operator 給平台工程師以大規模管理伺服器。

適用對象

• 希望以最少設定安全執行 MCP 伺服器並降低令牌成本的 開發者。
• 需要在 Kubernetes 上部署與治理 MCP 基礎設施的 平台工程師。
• 需要自架 MCP 解決方案以控制敏感資料並符合合規要求的 企業。

核心亮點

• 容器隔離：每個 MCP 伺服器都在獨立的隔離容器中執行，防止未經授權的本地存取。
• 令牌優化：透過語意工具搜尋與過濾，將令牌使用量減少高達 85%。
• 企業級治理：內建 Kubernetes Operator，支援策略宣告、審計日誌以及 OTel/Prometheus 可觀測性。
• 彈性部署：支援本地桌面使用、雲端規模的 Kubernetes 集群，以及混合部署環境。