IBM/mcp-context-forge
An AI Gateway, registry, and proxy that sits in front of any MCP, A2A, or REST/gRPC APIs, exposing a unified endpoint with centralized discovery, guardrails and management. Optimizes Agent & Tool calling, and supports plugins.
ContextForge – AI 工具、代理和 API 的统一网关
是什么 – ContextForge 是一个开源的 注册表和代理,可让您通过单一、集中管理的端点暴露任何 模型上下文协议 (MCP) 服务器、A2A(代理到代理)服务或普通的 REST/gRPC API。它作为一个 网关,翻译、发现并监控这些后端,使它们在您的 LLM 驱动的应用程序中看起来像原生的 MCP 工具。
为何重要 – 现代 LLM 应用通常需要调用许多外部服务(搜索、数据库、自定义工具、其他代理)。将每个集成单独维护很快就会变成维护噩梦:您必须为每个服务处理认证、速率限制、重试、可观测性以及版本控制。ContextForge 通过以下方式解决此问题:
- 联邦化 异构后端(MCP、REST、gRPC)为一个一致的 API 表面。
- 提供 集中治理(认证、速率限制、OAuth、JWT、密钥管理)。
- 通过 OpenTelemetry 提供 内置可观测性(可导出至 Jaeger、Zipkin、Phoenix 等)。
- 支持 插件扩展(40+ 插件),用于额外传输或自定义逻辑。
- 提供 管理 UI,用于运行时配置、健康检查和日志浏览。
核心组件
| 组件 | 作用 |
|---|---|
| 工具网关 | 将 MCP、REST 和 gRPC 服务转换为 MCP 兼容的 工具;支持 TOON 压缩和自动 JSON Schema 提取。 |
| 代理网关 | 通过 A2A 协议路由 OpenAI 兼容、Anthropic 或自定义代理;处理令牌级路由和版本控制。 |
| API 网关 | 为通用 REST 服务添加速率限制、重试和反向代理功能。 |
| 插件系统 | 提供 40+ 预制适配器,支持额外传输(WebSocket、SSE、stdio 等)和集成。 |
| 可观测性层 | OpenTelemetry 指标;可导出至 Phoenix、Jaeger、Zipkin、Tempo、DataDog、New Relic 等;支持 LLM 特有指标(令牌使用量、成本)。 |
| 管理 UI | 基于 HTMX/Alpine 的仪表板,用于管理服务器、工具、提示词和资源;支持离线部署。 |
如何运行
- PyPI –
pip install mcp-contextforge-gateway并使用mcpgatewayCLI 启动。 - Docker / Docker-Compose – 拉取预构建镜像
ghcr.io/ibm/mcp-context-forge,通过单条docker compose up -d启动完整堆栈(网关 + PostgreSQL + Redis + 可选 Nginx)。 - Kubernetes (Helm) – 部署提供的 Helm 图表以实现多集群、高可用部署;包含自动伸缩、Prometheus 指标和密钥注入。
- Dev container – 支持 VS Code dev-container,实现快速本地开发。
典型工作流
- 生成密钥(
python -m mcpgateway.scripts.init_secrets)。 - 启动网关(CLI、Docker 或 Helm)。
- 通过管理 UI 或 REST 调用注册后端 – 例如,将旧版 REST 服务指向
http://localhost:4444/gateways。 - 创建虚拟服务器,捆绑一组工具/提示词/资源。
- 从任何 LLM 客户端(OpenAI 兼容、Anthropic 或自定义)消费统一的 MCP 端点 – 客户端无论底层实现如何,都看到单一的
/mcpURL。
谁应该使用它
- 需要调用多个异构服务的 代理型 AI 应用 开发团队。
- 希望对所有 AI 相关 API 实现 集中策略强制(认证、速率限制、审计)的企业。
- 寻求 可观测性 以监控分布式 LLM 工作负载中工具使用情况的开发者。
- 需要一个 插件友好 的网关,能随新传输协议出现而演进的任何人。
成熟度与社区
- 由 IBM 持续维护,具备 CI 流水线(测试、linting、依赖审查)。
- 超过 7,000 个自动化测试 和完整的 CI/CD 工作流。
- 以 PyPI 包 和 Docker 镜像 形式分发;支持 Python 3.11+。
- 文档网站(
ibm.github.io/mcp-context-forge)包含快速入门指南、API 参考和路线图。 - 欢迎贡献 – 请参阅
CONTRIBUTING.md了解问题提交和 PR 指南。
TL;DR – ContextForge 是一个生产级、可扩展的网关,可将任何 AI 工具、代理或服务(MCP、REST、gRPC)转换为单一、可观测且集中管理的端点,随时可供 LLM 驱动的应用程序使用。
相关
- 项目
- 项目
- 项目
- 项目
- 项目