HolmesGPT/holmesgpt

HolmesGPT – AI 기반 SRE 어시스턴트

개요 – HolmesGPT는 사이트 신뢰성 엔지니어(SRE)가 프로덕션 장애를 조사하고 근본 원인을 찾을 수 있도록 설계된 오픈소스 AI 에이전트입니다. 다양한 관찰 가능성, 클라우드 네이티브, 티켓팅 시스템과 연동되며, 데이터를 가져오고 대규모 언어 모델로 추론한 후 간결한 분석(및 개선 제안)을 반환하는 에이전트 루프를 실행합니다.

중요성 – 현대 인프라는 페타바이트 규모의 로그, 메트릭, 이벤트를 생성합니다. 이러한 소스를 수동으로 연관시키는 것은 시간이 많이 걸리고 오류가 발생하기 쉽습니다. HolmesGPT는 "탐지-조사-해결" 주기를 자동화하고, 운영자 모드에서 지속적으로 실행하여 사용자가 인지하기 전에 문제를 발견하며, 이미 사용 중인 도구(Kubernetes, Prometheus, Grafana, Datadog, AWS, Azure, GitHub, Slack 등)와 통합됩니다.

핵심 기능 (README에 설명된 대로)

페타바이트 규모 데이터 처리 – 서버 측 필터링, JSON 트리 탐색 및 스트리밍을 통해 대용량 페이로드가 LLM 컨텍스트 창에 들어가지 않도록 합니다.
메모리 안전 실행 – 도구별 메모리 제한 및 출력 예산을 통해 대규모 관찰 가능성 데이터셋을 쿼리할 때 OOM 충돌을 방지합니다.
심층 통합 – 30개 이상의 데이터 소스(Kubernetes, Prometheus, Grafana, Datadog, AWS, Azure, GCP, Elasticsearch, Loki, Kafka, MySQL/PostgreSQL, MongoDB, Sentry, ServiceNow 등)를 위한 내장 도구 세트와 일반 REST API 커넥터를 제공합니다.
양방향 알림/티켓 흐름 – AlertManager, PagerDuty, OpsGenie, Jira 등에서 알림을 가져오고, 조사 결과를 동일한 시스템 또는 Slack/Teams에 다시 작성합니다.
LLM에 구애받지 않음 – 간단한 구성으로 모든 공급자(OpenAI, Anthropic, Azure, Bedrock, Gemini 등)와 작동합니다.
운영자 모드 – 백그라운드 Kubernetes 파드로 실행되어 지속적으로 상태 점검을 수행하고, 회귀를 감지하며, Slack, PR 등을 통해 알림을 보냅니다.
Kubernetes 불필요 – CLI는 VM, 베어메탈 또는 모든 컨테이너 호스트에서 실행할 수 있습니다.

작동 방식 (개괄)

트리거 – 알림, 티켓 또는 수동 쿼리가 조사를 시작합니다.
데이터 수집 – HolmesGPT는 적절한 도구 세트(예: 메트릭용 Prometheus, 로그용 Elasticsearch, 파드 상태용 Kubernetes API)를 호출하고 결과를 스트리밍합니다.
LLM 추론 – 수집된 데이터는 구성된 LLM에 전달되어 근본 원인 가설, 진단 단계 및 선택적 개선 조치를 생성합니다.
출력 – 결과는 원본 시스템(Slack 메시지, Jira 댓글, PR 등)에 다시 게시되며, 선택적으로 Kubernetes 개선 도구 세트를 통해 개선 조치를 실행할 수 있습니다.

README에는 아키텍처 다이어그램과 조사 데모 GIF가 포함되어 있습니다.

시작하기

설치 – https://holmesgpt.dev/installation/cli-installation/의 자세한 문서는 CLI 설치, Docker 이미지 또는 Operator용 Helm 차트를 다룹니다.
구성 – LLM API 키(모든 공급자)를 설정하고, 원하는 데이터 소스 도구 세트를 활성화하며, 알림/티켓 통합(Slack, PagerDuty 등)을 구성합니다.
사용법 – 임시 질문을 위한 대화형 모드, CI/CD 문제 해결을 위한 CLI 명령, 지속적인 상태 점검을 위한 Operator 모드.

라이선스 및 커뮤니티

라이선스 – Apache 2.0.
거버넌스 – CNCF 샌드박스 프로젝트로, Microsoft의 기여와 함께 Robusta.Dev에서 시작되었습니다.
지원 – Slack 채널, 커뮤니티 밋업, Q&A를 위한 DeepWiki AI 배지.
기여 – CONTRIBUTING.md 및 행동 강령이 제공됩니다.

결론 – HolmesGPT는 프로덕션 등급의 확장 가능한 AI 에이전트로, 전체 클라우드 네이티브 스택에 LLM 기반 근본 원인 분석을 제공하여 SRE 팀이 MTTR을 줄이고 일상적인 장애 대응을 자동화할 수 있도록 돕습니다.