nasiko: 一个用于容器化 AI agent 的集中式管理和智能路由的开发者控制平面

nasiko: 一个用于容器化 AI agent 的集中式管理和智能路由的开发者控制平面

它解决了什么问题

Nasiko 是一个旨在大规模管理 AI agent 的开发者控制平面。它解决了在生产环境中部署、路由和监控多个专业化 AI agent 的复杂性,为 agent 生命周期管理和智能流量分配提供了一个集中式系统。

工作原理

Nasiko 使用以 Kong API Gateway 为核心的云原生微服务架构。它采用集中式注册表,通过 "AgentCards"(能力定义)存储 agent 元数据。一个由 LangChain 驱动的路由器会分析用户查询,并根据这些能力将它们语义化地匹配到最合适的 agent。Agents 被部署为容器化服务(Docker/Kubernetes),并自动在网关中注册以进行发现和负载均衡。

适用人群

它是为 AI 开发者和企业团队构建的,这些团队需要编排一个专业化 AI agent 网络,而不是依赖于单个单体 LLM 应用。

亮点

  • 智能路由:使用 LangChain 分析意图,并根据置信度评分将查询路由到最佳 agent。
  • Agent 生命周期管理:支持版本控制存储、热部署和自动化容器化。
  • 企业级基础设施:集成了 Kong API Gateway 用于路由,GitHub OAuth 用于身份验证,以及 Arize Phoenix 用于 LLM 原生可观测性。
  • 开发者工具:包括用于 agent 上传的专用 CLI,以及用于平台管理的 Web 端仪表板。

Sources