IBM/mcp-context-forge
An AI Gateway, registry, and proxy that sits in front of any MCP, A2A, or REST/gRPC APIs, exposing a unified endpoint with centralized discovery, guardrails and management. Optimizes Agent & Tool calling, and supports plugins.
ContextForge – AI 工具、代理與 API 的統一閘道
是什麼 – ContextForge 是一個開源的 註冊表與代理,可讓您透過單一、集中管理的端點,公開任何 模型上下文協定 (MCP) 伺服器、A2A(代理至代理)服務,或一般的 REST/gRPC API。它作為一個 閘道,翻譯、發現並監控這些後端,讓它們在您的 LLM 驅動的應用程式中看起來像原生的 MCP 工具。
為何重要 – 現代 LLM 應用通常需要呼叫許多外部服務(搜尋、資料庫、自訂工具、其他代理)。將每個整合各自分開管理,很快就會變成維護地獄:您必須為每個服務處理認證、速率限制、重試、可觀測性與版本控制。ContextForge 透過以下方式解決此問題:
- 聯邦化 異質後端(MCP、REST、gRPC)為一個一致的 API 表面。
- 提供 集中治理(認證、速率限制、OAuth、JWT、密鑰管理)。
- 提供 內建可觀測性,透過 OpenTelemetry(可導出至 Jaeger、Zipkin、Phoenix 等)。
- 支援 插件擴充(40+ 插件),用於額外傳輸或自訂邏輯。
- 提供 管理 UI,用於執行時設定、健康檢查與日誌瀏覽。
核心元件
| 元件 | 功能 |
|---|---|
| 工具閘道 | 將 MCP、REST 和 gRPC 服務轉換為 MCP 相容的 工具;支援 TOON 壓縮與自動 JSON Schema 提取。 |
| 代理閘道 | 透過 A2A 協定路由 OpenAI 相容、Anthropic 或自訂代理;處理權杖級路由與版本控制。 |
| API 閘道 | 為一般 REST 服務新增速率限制、重試與反向代理功能。 |
| 插件系統 | 提供 40+ 預先建置的適配器,支援額外傳輸(WebSocket、SSE、stdio 等)與整合。 |
| 可觀測性層 | OpenTelemetry 指標;可導出至 Phoenix、Jaeger、Zipkin、Tempo、DataDog、New Relic 等;支援 LLM 特有指標(權杖使用量、成本)。 |
| 管理 UI | 基於 HTMX/Alpine 的儀表板,用於管理伺服器、工具、提示詞與資源;支援離線部署。 |
如何執行
- PyPI –
pip install mcp-contextforge-gateway並使用mcpgatewayCLI 啟動。 - Docker / Docker-Compose – 拉取預建置鏡像
ghcr.io/ibm/mcp-context-forge,透過單一指令docker compose up -d啟動完整堆疊(閘道 + PostgreSQL + Redis + 可選 Nginx)。 - Kubernetes (Helm) – 部署提供的 Helm 圖表以實現多叢集、高可用部署;包含自動擴展、Prometheus 指標與密鑰注入。
- Dev container – 支援 VS Code dev-container,實現快速本地開發。
典型工作流程
- 產生密鑰(
python -m mcpgateway.scripts.init_secrets)。 - 啟動閘道(CLI、Docker 或 Helm)。
- 透過管理 UI 或 REST 呼叫註冊後端 – 例如,將舊版 REST 服務指向
http://localhost:4444/gateways。 - 建立虛擬伺服器,捆綁一組工具/提示詞/資源。
- 從任何 LLM 客戶端(OpenAI 相容、Anthropic 或自訂)消費統一的 MCP 端點 – 客戶端無論底層實作如何,都看到單一的
/mcpURL。
誰應該使用它
- 需要呼叫多個異質服務的 代理型 AI 應用 開發團隊。
- 希望對所有 AI 相關 API 實現 集中策略強制(認證、速率限制、審計)的企業。
- 尋求 可觀測性 以監控分散式 LLM 工作負載中工具使用情況的開發者。
- 需要一個 插件友善 的閘道,能隨著新傳輸協定出現而進化的任何人。
成熟度與社群
- 由 IBM 持續維護,具備 CI 流水線(測試、linting、依賴審查)。
- 超過 7,000 個自動化測試 和完整的 CI/CD 工作流程。
- 以 PyPI 套件 和 Docker 鏡像 形式分發;支援 Python 3.11+。
- 文件網站(
ibm.github.io/mcp-context-forge)包含快速入門指南、API 參考與路線圖。 - 歡迎貢獻 – 請參閱
CONTRIBUTING.md了解問題提交與 PR 指南。
TL;DR – ContextForge 是一個生產級、可擴展的閘道,可將任何 AI 工具、代理或服務(MCP、REST、gRPC)轉換為單一、可觀測且集中管理的端點,隨時可供 LLM 驅動的應用程式使用。
相關
- 專案
- 專案
- 專案
- 專案
- 專案