HolmesGPT/holmesgpt

SRE Agent - CNCF Sandbox Project

What it solves

HolmesGPT는 프로덕션 인시던트 조사와 근본 원인 식별을 자동화하도록 설계된 AI 에이전트입니다. 다양한 인프라 스택에 걸쳐 로그, 메트릭, 알림을 검토하는 데 필요한 Site Reliability Engineer(SRE)의 수작업을 크게 줄여줍니다.

How it works

에이전트는 에이전트 루프를 사용해 다양한 소스에서 실시간 관측 데이터를 쿼리합니다. Prometheus, Grafana, Datadog, Kubernetes 및 주요 클라우드 제공업체(AWS, Azure, GCP)와 통합됩니다. PagerDuty 또는 Jira와 같은 시스템에서 알림을 가져와 데이터를 분석하고, 결과를 Slack이나 원본 티켓에 다시 기록합니다.

또한 "Operator Mode"를 제공하여 백그라운드에서 24/7 실행되며, 문제를 사전에 감지해 Slack을 통해 사용자에게 알리고, 필요 시 GitHub PR을 열어 수정 사항을 적용할 수 있습니다.

Who it’s for

이 도구는 Kubernetes, VM, 클라우드 서비스 및 SaaS 플랫폼을 포함한 복잡한 프로덕션 환경을 관리하는 SRE 및 DevOps 엔지니어를 주 대상으로 합니다.

Highlights

  • Broad Integration Ecosystem: 주요 클라우드 제공업체, 데이터베이스, 관측 도구 등 방대한 데이터 소스를 지원합니다.
  • Scale-Aware Data Handling: 서버 측 필터링 및 출력 예산을 사용해 페타바이트 규모의 데이터를 LLM 컨텍스트 윈도우를 초과하지 않게 처리합니다.
  • Memory-Safe Execution: 도구별 메모리 제한과 디스크 스트리밍을 구현해 대규모 쿼리 시 OOM을 방지합니다.
  • LLM Agnostic: OpenAI, Anthropic, Azure, Bedrock, Gemini 등 다양한 제공업체와 호환됩니다.
  • Read-Only Safety: 읽기 전용 접근 및 RBAC를 존중하도록 설계되어 안전한 프로덕션 배포가 가능합니다.