stacklok/toolhive

解决的问题

ToolHive 提供了一种安全且可扩展的方式来运行和管理 Model Context Protocol (MCP) 服务器。它解决了在本地运行不受信任的工具服务器所带来的安全风险、企业团队缺乏集中治理的问题，以及向 LLM 提供过多工具描述所导致的高昂令牌成本。

工作原理

ToolHive 采用由四个主要部分组成的模块化架构：

• 网关：作为入口点，管理认证（OIDC/OAuth）、授权策略和工具过滤，以减少令牌使用量。
• 注册服务器：一个经过筛选的可信 MCP 服务器目录，允许团队发现并部署经过验证的工具。
• 运行时：通过 Docker、Podman 或 Kubernetes 在隔离的容器中处理 MCP 服务器的实际执行，以确保安全性和资源隔离。
• 接口：为用户提供桌面 UI 和 CLI 以发现和配置服务器，为平台工程师提供 Kubernetes Operator 以大规模管理服务器。

适用对象

• 希望以最少配置安全运行 MCP 服务器并降低令牌成本的 开发者。
• 需要在 Kubernetes 上部署和治理 MCP 基础设施的 平台工程师。
• 需要自托管 MCP 解决方案以控制敏感数据并满足合规要求的 企业。

核心亮点

• 容器隔离：每个 MCP 服务器都在独立的隔离容器中运行，防止未经授权的本地访问。
• 令牌优化：通过语义工具搜索和过滤，将令牌使用量减少高达 85%。
• 企业级治理：包含 Kubernetes Operator，支持策略声明、审计日志以及 OTel/Prometheus 可观测性。
• 灵活部署：支持本地桌面使用、云规模的 Kubernetes 集群以及混合部署环境。