stacklok/toolhive

해결하는 문제

ToolHive는 Model Context Protocol (MCP) 서버를 안전하고 확장 가능한 방식으로 실행하고 관리할 수 있는 플랫폼입니다. 신뢰할 수 없는 도구 서버를 로컬에서 실행할 때 발생하는 보안 위험, 기업 팀의 중앙 집중적 거버넌스 부족, 그리고 LLM에 너무 많은 도구 설명을 제공함으로써 발생하는 높은 토큰 비용을 해결합니다.

작동 방식

ToolHive는 네 가지 주요 구성 요소로 이루어진 모듈식 아키텍처를 사용합니다.

• 게이트웨이: 인증(OIDC/OAuth), 권한 정책, 도구 필터링을 관리하는 진입점으로, 토큰 사용량을 줄입니다.
• 레지스트리 서버: 신뢰할 수 있는 MCP 서버의 큐레이션된 카탈로그로, 팀이 검증된 도구를 탐색하고 배포할 수 있도록 합니다.
• 런타임: Docker, Podman 또는 Kubernetes를 통해 MCP 서버를 격리된 컨테이너에서 실행하여 보안과 리소스 격리를 보장합니다.
• 인터페이스: 사용자가 서버를 탐색하고 구성할 수 있는 데스크톱 UI와 CLI, 그리고 플랫폼 엔지니어가 대규모로 관리할 수 있는 Kubernetes Operator를 제공합니다.

대상 사용자

• 최소한의 구성으로 안전하게 MCP 서버를 실행하고 토큰 비용을 낮추고 싶은 개발자.
• Kubernetes에서 MCP 인프라를 배포하고 거버넌스를 수행해야 하는 플랫폼 엔지니어.
• 민감한 데이터를 통제하고 규정 준수 요구사항을 충족하기 위해 자체 호스팅된 MCP 솔루션을 필요로 하는 기업.

주요 특징

• 컨테이너 격리: 모든 MCP 서버가 독립된 격리된 컨테이너에서 실행되어 비인가된 로컬 접근을 방지합니다.
• 토큰 최적화: 의미 기반 도구 검색과 필터링을 통해 토큰 사용량을 최대 85%까지 절감합니다.
• 기업용 거버넌스: 정책 선언, 감사 로깅, OTel/Prometheus 관측성을 지원하는 Kubernetes Operator 포함.
• 유연한 배포: 로컬 데스크톱 사용, 클라우드 규모의 Kubernetes 클러스터, 하이브리드 환경 모두 지원합니다.