plano:用于代理式编排与可观测性的 AI 原生代理服务器与数据平面

plano:用于代理式编排与可观测性的 AI 原生代理服务器与数据平面

它解决了什么

Plano 解决了将 agentic AI 应用从演示阶段迁移到生产环境时的“隐藏中间件”负担。它消除了开发者必须手动构建意图分类器、路由逻辑、特定提供商的 API 适配器以及跨多个 agent 的可观测性仪表等重复性工作。

工作原理

Plano 作为基于 Envoy 的 AI 原生代理服务器和数据平面运行。它通过将编排和交付的关注点移至进程外层,来将这些职责从应用代码中解耦。开发者在 YAML 配置文件中定义 agents 和模型提供商,Plano 负责在 agents 之间进行低延迟路由,管理 LLM 提供商的各种 quirks,并自动捕获 OpenTelemetry 的 trace 与 metric。

适用人群

构建多 agent 系统的开发者,想要在不受特定 AI 框架或语言限制的情况下部署生产级基础设施。

亮点

  • 声明式编排: 使用 YAML 中的自然语言描述将请求路由到正确的 agent,而无需编写自定义路由代码。
  • 模型敏捷性: 统一的 LLM API,支持按模型名称、别名或自动偏好进行路由。
  • 零代码可观测性: 自动端到端捕获 agent 信号以及 OTEL trace/metric,无需手动埋点。
  • 过滤链: 内置对 guardrails、moderation 策略和 memory hook 的支持,可在所有 agents 中一致地添加这些功能。

摘要: 一个 AI 原生的代理服务器与数据平面,集中管理 agent 编排、LLM 路由和可观测性,简化生产级 agent 应用的部署。

标题: plano:用于代理式编排与可观测性的 AI 原生代理服务器与数据平面

Sources