kagent-dev/kagent

kagent – Kubernetes 네이티브 AI 에이전트 프레임워크

정의 – kagent는 AI 에이전트를 네이티브 Kubernetes 리소스로 정의, 실행, 관리할 수 있는 오픈소스 프로젝트입니다. 에이전트(챗봇이나 자율적으로 도구를 사용하는 서비스를 상상해 보세요)는 YAML 사용자 정의 리소스로 설명되며, kagent가 적절한 런타임 시작, LLM 제공업체 연결, 대화 상태 영구 저장을 처리합니다.

중요성 – LLM 기반 서비스를 대규모로 실행하려면 일반적으로 컨테이너, 네트워킹, 확장, 관찰 가능성을 처리해야 합니다. kagent는 이 모든 것을 Kubernetes 제어 평면에 통합하므로 다른 클라우드 네이티브 워크로드에 이미 사용하는 동일한 kubectl/GitOps 워크플로우를 사용할 수 있습니다.

핵심 개념 (README에서)

개념	역할
Agent	에이전트의 동작(프롬프트, 도구, 하위 에이전트)과 런타임 구성을 묶는 Kubernetes 사용자 정의 리소스.
AgentTemplate	여러 에이전트가 공유할 수 있는 시스템 프롬프트, 도구, LLM 설정의 재사용 가능한 정의.
Harness	실행 환경 선택 – Go ADK, Python ADK, Codex, Claude 또는 사용자 정의 런타임.
LLM 제공업체	OpenAI, Azure OpenAI, Anthropic, Google Vertex AI, Ollama 및 사용자 정의 게이트웨이 모델에 대한 내장 지원.
MCP 도구	에이전트가 RemoteMCPServer 리소스를 통해 호출할 수 있는 "관리 제어 평면" 도구(Kubernetes, Istio, Helm, Argo, Prometheus 등) 카탈로그.
세션	PostgreSQL에 저장된 영구 대화/기록. 세션을 일시 중지, 재개, 체크포인트 또는 분기할 수 있습니다.
관찰 가능성	에이전트, 모델, 도구 호출에 대한 OpenTelemetry 추적. 기존 모니터링 스택과 통합 가능.

아키텍처 개요

UI  →  kagent Controller  ←  CLI
          │                │
          ▼                ▼
   Kubernetes resources   gRPC / A2A / MCP APIs
          │
          ▼
        DB (PostgreSQL)   ← stores sessions & task history
          │
          ▼
      Substrate          ← lifecycle manager (suspend, resume, snapshots)
          │
          ▼
   Agent Runtimes (Go, Python, Codex, Claude, …)

컨트롤러는 사용자 정의 리소스를 감시하고, 에이전트를 준비하며, 선택된 런타임을 실제로 실행하는 기반과 통신합니다. 웹 UI와 CLI는 사용자에게 대화형 액세스를 제공합니다.

kagent로 할 수 있는 일

YAML로 에이전트를 선언하고 버전 관리를 한 다음 Kubernetes가 시작하게 합니다.
Harness 또는 ModelConfig를 변경하여 모델이나 런타임을 교체 – 코드 변경 없이 가능합니다.
MCP 서버를 통해 에이전트에 도구를 노출(예: Helm 차트, Prometheus 쿼리)하여 자율 운영을 가능하게 합니다.
대화를 영구 저장하고 재생 – 디버깅이나 "체크포인트 및 계속" 워크플로우 구축에 유용합니다.
OpenTelemetry로 모든 단계를 관찰하고 Grafana, Jaeger 등에 데이터를 전송합니다.

시작하기 및 커뮤니티

문서: 첫 번째 에이전트 및 설치 가이드는 https://kagent.dev에 있습니다.
대화형 UI 데모(README의 GIF)는 채팅 및 도구 관리를 보여줍니다.
GitHub 이슈, PR, Discord, CNCF Slack 채널 또는 프로젝트 행동 강령을 통해 기여할 수 있습니다.
이 프로젝트는 CNCF 인큐베이팅, Apache-2.0 라이선스, OpenSSF 모범 사례를 따릅니다.

결론 – kagent는 AI 에이전트를 Kubernetes 생태계로 가져오는 진정한 프로덕션급 프레임워크로, 개발자에게 LLM 기반 서비스를 클라우드 네이티브 규모로 실행할 수 있는 선언적이고 관찰 가능하며 확장 가능한 방법을 제공합니다.