agentgateway：它是什么、解决了什么问题以及为何受到关注

它解决了什么

agentgateway 解决了将 AI 代理连接到 LLM、工具和其他代理的复杂性。它提供了一个集中式代理来处理安全性、可观测性和治理，消除了开发者为每个代理工作流手动构建这些基础设施组件的需求。

工作原理

它作为一个基于 AI 原生协议（如 MCP（模型上下文协议）和 A2A）的开源代理运行。它通过多个专用网关路由流量：

• LLM Gateway：在一个兼容 OpenAI 的 API 下统一多个 LLM 提供商，提供支出控制和负载均衡。
• MCP Gateway：使用各种传输方式（stdio、HTTP、SSE）和 OAuth，将 LLM 连接到外部数据和工具。
• A2A Gateway：促进不同代理之间的安全通信和任务协作。
• Inference Routing：根据 GPU 利用率、队列深度等实时指标，将流量指向自托管模型。

适用人群

它面向构建代理式 AI 系统的开发者和组织，提供生产就绪的方式来管理连接性、强制执行防护措施，并监控跨不同框架和环境的通信。

亮点

• 多层防护：通过正则表达式、OpenAI 审核、AWS Bedrock 和 Google Model Armor 实现内容过滤。
• 企业安全：包括 JWT、API 密钥、OAuth，以及使用 CEL 策略引擎的细粒度 RBAC。
• 可观测性：集成 OpenTelemetry 用于指标、日志和追踪。
• 部署灵活性：支持独立安装和通过内置控制器及 Gateway API 的 Kubernetes 部署。