kagent-dev/kagent

Cloud Native Agentic AI | Discord: https://bit.ly/kagentdiscord

What it solves

Kagent 提供一種 Kubernetes 原生的方式來建置、部署與管理 AI 代理。它透過將代理與其工具視為標準的 Kubernetes 自訂資源,簡化了 AI 工作負載的編排流程,讓開發者能使用熟悉的 kubectl 工作流程與宣告式 YAML 設定。

How it works

Kagent 作為一個框架運作,包含四個核心元件:

  • Controller:監控自訂資源並配置執行代理所需的基礎設施的 Kubernetes 控制器。
  • Engine:使用 ADK(Agent Development Kit)執行代理的執行環境。
  • UI:用於管理代理與工具的 Web 介面。
  • CLI:用於管理任務的命令列工具。

代理由系統提示、LLM 設定(支援 OpenAI、Anthropic、Ollama 等供應商)以及一組工具定義。它利用 MCP(Model Context Protocol)伺服器將代理連接至 Kubernetes、Istio、Helm 以及其他雲原生服務的工具。

Who it’s for

已在使用 Kubernetes,且希望在不離開現有編排生態系的情況下,將 AI 代理整合至雲原生基礎設施的開發者與平台工程師。

Highlights

  • Kubernetes Native:使用自訂資源以宣告式管理代理與工具。
  • MCP Tooling:內建支援 MCP 伺服器,提供 Kubernetes、Prometheus、Grafana 等工具。
  • Multi-LLM Support:相容多種供應商,包括 OpenAI、Azure OpenAI、Anthropic、Google Vertex AI 與 Ollama。
  • Observability:整合 OpenTelemetry 追蹤,監控代理與工具的效能。