kagent-dev/kagent

Cloud Native Agentic AI | Discord: https://bit.ly/kagentdiscord

What it solves

Kagent 提供一种 Kubernetes 原生的方式来构建、部署和管理 AI 代理。它通过将代理及其工具视为标准的 Kubernetes 自定义资源,简化了 AI 工作负载的编排过程,让开发者可以使用熟悉的 kubectl 工作流和声明式 YAML 配置。

How it works

Kagent 作为一个框架运行,包含四个核心组件:

  • Controller:监控自定义资源并提供运行代理所需基础设施的 Kubernetes 控制器。
  • Engine:使用 ADK(Agent Development Kit)执行代理的运行时环境。
  • UI:用于管理代理和工具的基于 Web 的界面。
  • CLI:用于管理任务的命令行工具。

代理由系统提示、LLM 配置(支持 OpenAI、Anthropic、Ollama 等提供商)以及一组工具定义。它利用 MCP(Model Context Protocol)服务器将代理连接到 Kubernetes、Istio、Helm 和其他云原生服务的工具。

Who it’s for

已经在使用 Kubernetes,并希望在不离开现有编排生态系统的情况下,将 AI 代理集成到云原生基础设施中的开发者和平台工程师。

Highlights

  • Kubernetes Native:使用自定义资源以声明式管理代理和工具。
  • MCP Tooling:内置对 MCP 服务器的支持,提供 Kubernetes、Prometheus、Grafana 等工具。
  • Multi-LLM Support:兼容多种提供商,包括 OpenAI、Azure OpenAI、Anthropic、Google Vertex AI 和 Ollama。
  • Observability:集成 OpenTelemetry 跟踪,监控代理和工具的性能。