ccfos/huatuo

해결 과제

HUATUO는 복잡한 클라우드 네이티브 및 AI 집약적 인프라에서 성능 문제와 시스템 장애를 해결하는 데 따르는 어려움을 해결합니다. 하드웨어와 운영 체제의 동작에 대한 깊은 커널 수준의 가시성을 제공하여, 일반적인 애플리케이션 수준 모니터링으로는 파악하기 어려운 성능 지터, CPU 스파이크, I/O 병목 현상의 근본 원인을 엔지니어가 식별할 수 있도록 돕습니다.

작동 원리

이 프로젝트는 eBPF (extended Berkeley Packet Filter)를 사용하여 Linux 커널 내에서 비침습적이고 낮은 오버헤드의 모니터링을 수행합니다. 메모리 관리, CPU 스케줄링, 네트워킹과 같은 커널 하위 시스템에 후킹하여 런타임 컨텍스트를 자동으로 캡처합니다. 페이지 폴트나 스케줄링 지연과 같은 성능 이벤트가 발생하면 시스템 상태를 기록하는 스냅샷을 트리거하며, 이는 Prometheus 및 Grafana와 같은 통합 대시보드를 통해 분석할 수 있습니다.

대상 사용자

대규모 클라우드 네이티브 환경, AI 컴퓨팅 클러스터 및 베어메탈 서버를 관리하며 하드웨어 인지형의 세밀한 관측성이 필요한 사이트 신뢰성 엔지니어(SRE), 시스템 관리자 및 인프라 엔지니어를 위해 설계되었습니다.

주요 특징

• CPU, 메모리, I/O 및 특수 AI 하드웨어(GPUs/NPUs)에 대한 커널 전체 관측성을 1% 미만의 성능 오버헤드로 제공.
• 성능 스파이크나 지터 발생 시 시스템 상태를 캡처하는 이벤트 기반 AutoTracing.
• 잠금 및 리소스 사용량을 포함한 OS 및 애플리케이션 성능의 지속적인 프로파일링.
• 제로 인스트루멘테이션 배포를 통해 애플리케이션 코드를 수정하지 않고도 깊은 시스템 통찰력을 수집.
• Prometheus, Grafana, Elasticsearch와 같은 표준 관측성 스택과의 원활한 통합.