kagent-dev/kagent

Cloud Native Agentic AI | Discord: https://bit.ly/kagentdiscord

What it solves

Kagent는 AI 에이전트를 구축, 배포 및 관리하기 위한 Kubernetes 네이티브 방식을 제공합니다. 에이전트와 도구를 표준 Kubernetes 커스텀 리소스로 취급함으로써 AI 워크로드 오케스트레이션 과정을 단순화하고, 개발자는 익숙한 kubectl 워크플로와 선언형 YAML 구성을 사용할 수 있습니다.

How it works

Kagent는 프레임워크로 동작하며 네 가지 핵심 구성 요소로 이루어집니다:

  • Controller: 커스텀 리소스를 모니터링하고 에이전트를 실행하기 위한 인프라를 프로비저닝하는 Kubernetes 컨트롤러.
  • Engine: ADK(Agent Development Kit)를 사용해 에이전트를 실행하는 런타임 환경.
  • UI: 에이전트와 도구를 관리하기 위한 웹 기반 인터페이스.
  • CLI: 관리 작업을 위한 커맨드라인 도구.

에이전트는 시스템 프롬프트, LLM 설정(OpenAI, Anthropic, Ollama 등 제공자 지원) 및 도구 집합으로 정의됩니다. MCP(Model Context Protocol) 서버를 활용해 에이전트를 Kubernetes, Istio, Helm 및 기타 클라우드 네이티브 서비스의 도구와 연결합니다.

Who it’s for

이미 Kubernetes를 사용하고 있으며 기존 오케스트레이션 생태계를 떠나지 않고 AI 에이전트를 클라우드 네이티브 인프라에 통합하고자 하는 개발자와 플랫폼 엔지니어를 위한 솔루션입니다.

Highlights

  • Kubernetes Native: 에이전트와 도구를 선언적으로 관리하기 위해 커스텀 리소스를 사용합니다.
  • MCP Tooling: Kubernetes, Prometheus, Grafana 등 도구를 제공하는 MCP 서버를 기본 지원합니다.
  • Multi-LLM Support: OpenAI, Azure OpenAI, Anthropic, Google Vertex AI, Ollama 등 다양한 제공자를 호환합니다.
  • Observability: 에이전트와 도구 성능 모니터링을 위해 OpenTelemetry 트레이싱을 통합했습니다.