HolmesGPT/holmesgpt

해결하는 문제

HolmesGPT는 운영 장애 조사 및 근본 원인 식별을 자동화하도록 설계된 AI 에이전트입니다. Kubernetes, VM, 클라우드 제공업체 및 데이터베이스를 포함한 다양한 인프라 스택의 실시간 관측 데이터를 쿼리하여 수동 트러블슈팅의 필요성을 제거합니다.

작동 방식

에이전트 루프를 사용하여 다양한 데이터 소스(툴셋)와 상호 작용하여 증거를 수집합니다. 사람이 주도하는 조사를 위한 대화형 모드 또는 백그라운드에서 24/7 실행되며 문제를 감지하고 Slack을 통해 사용자에게 알림을 보내는 "Operator mode"로 실행할 수 있습니다. 다양한 LLM 제공업체(OpenAI, Anthropic, Gemini 등)와 통합되며 PagerDuty 또는 Jira와 같은 시스템에서 알림을 가져오고 조사 결과를 다시 기록할 수 있습니다.

대상 사용자

복잡한 멀티 클라우드 또는 하이브리드 인프라를 관리하며 근본 원인 분석에 소요되는 시간을 줄여야 하는 사이트 신뢰성 엔지니어(SRE) 및 DevOps 엔지니어.

주요 특징

• 광범위한 통합 생태계: Prometheus, Grafana, Datadog, Kubernetes, AWS, Azure, GCP 등을 위한 내장 툴셋 제공.
• 대규모 데이터 처리: 서버 측 필터링 및 JSON 트리 탐색을 사용하여 LLM 컨텍스트 창을 초과하지 않고 페타바이트 규모의 데이터를 처리합니다.
• 메모리 안전성: 도구별 메모리 제한 및 출력 예산을 구현하여 대규모 데이터 세트 쿼리 중 OOM 발생을 방지합니다.
• 자동 복구: GitHub 통합을 사용할 때 식별된 문제를 수정하기 위해 GitHub PR을 생성할 수 있습니다.
• 인프라 무관: VM, 베어 메탈 및 컨테이너에서 작동합니다. 에이전트 자체의 작동에 Kubernetes가 필수적인 것은 아닙니다.