microsoft/mcp-gateway

해결하는 문제

MCP Gateway는 Model Context Protocol (MCP) 서버를 위한 확장 가능하고 상태 비저장(stateless)인 리버스 프록시 및 관리 계층을 제공합니다. Kubernetes 환경 내에서 MCP 서버의 수명 주기(배포, 업데이트, 삭제) 관리 및 라우팅 문제를 해결하며, 엔터프라이즈급 권한 부여 및 관측 가능성을 추가합니다.

작동 방식

이 프로젝트는 두 가지 주요 평면을 통해 작동합니다.

• 제어 평면 (Control Plane): MCP 서버(어댑터) 및 특정 도구를 배포하고 등록하는 데 사용되는 RESTful API 세트입니다. 백엔드 Kubernetes 클러스터를 관리하고, 서버 이미지 배포를 처리하며, 메타데이터를 Redis 또는 Cosmos DB에 저장합니다.
• 데이터 평면 (Data Plane): 들어오는 MCP 요청을 라우팅하는 리버스 프록시입니다. /adapters/{name}/mcp를 통한 특정 어댑터로의 직접 라우팅이나 Tool Gateway Router를 통한 동적 라우팅을 지원합니다. 이 라우터는 지능형 MCP 서버로서 작동하여 도구 호출을 분석하고 올바르게 등록된 도구 서버로 전달합니다.

대상 사용자

Model Context Protocol에 의존하는 AI 애플리케이션을 구축하고 있으며, Kubernetes에서 이러한 도구를 대규모로 배포해야 하고 강력한 액세스 제어(Azure Entra ID) 및 중앙 집중식 관리가 필요한 개발자 및 플랫폼 엔지니어.

주요 특징

• 상태 비저장 라우팅 (Stateless Routing): 전송 세션 친화성(affinity) 없이 각 요청을 독립적으로 라우팅합니다.
• 동적 도구 라우팅 (Dynamic Tool Routing): 도구 정의를 기반으로 도구 실행 요청을 적절한 서버로 안내하는 특수 라우터입니다.
• Kubernetes 네이티브 (Kubernetes-Native): 배포를 위해 StatefulSets 및 headless services를 사용합니다.
• 통합 관리 포털 (Integrated Management Portal): 어댑터와 도구를 관리하고 JSON-RPC 콘솔을 통해 테스트할 수 있는 React SPA가 포함되어 있습니다.
• 에이전트 지원 (Agent Support, 미리보기): 등록된 MCP 도구나 다른 에이전트를 호출할 수 있는 LLM 기반 에이전트를 실행할 수 있는 선택적 기능입니다.