kruize/autotune

해결하는 문제

Kruize는 Kubernetes 리소스 할당을 수동으로 조정하는 문제를 해결합니다. 자동으로 워크로드에 필요한 CPU, 메모리, GPU 리소스의 적절한 양을 제안함으로써 과도한 할당(비용 낭비)과 부족한 할당(애플리케이션 성능 저하)을 방지합니다.

작동 방식

Kruize는 Prometheus나 Thanos와 같은 모니터링 스택에 연결하여 과거의 리소스 사용 패턴을 분석합니다. 메타데이터와 메트릭 프로파일을 사용해 환경을 이해하고 '좋은 성능'의 기준을 정의합니다. 이 분석 기반으로 다음 항목에 대한 리사이징 권고를 생성합니다:

• 컨테이너: CPU 및 메모리 요청과 제한.
• 네임스페이스: 리소스 할당량 제한.
• NVIDIA GPU: A100 및 H100 가속기용 최적의 MIG 슬라이스 구성.
• 애플리케이션 런타임: JVM 및 Quarkus(Alpha)와 같은 프레임워크용 최적화 설정.

사용자는 비용 최적화 또는 성능 최적화 프로파일 중 선택하고 사용자 정의 관측 창을 설정할 수 있습니다.

대상 사용자

Kubernetes 및 OpenShift 관리자, DevOps 엔지니어 중, 수동적인 시도-오류 조정 없이 인프라 비용을 줄이고 워크로드 안정성을 향상시키고자 하는 분들께 적합합니다.

주요 특징

• 다중 리소스 지원: CPU, 메모리, GPU(MIG 슬라이스) 최적화.
• GPU 최적화: NVIDIA A100 및 H100 가속기 전용 지원.
• 통합: 데이터 수집을 위해 Prometheus 및 Thanos와 호환.
• 유연한 프로파일: 관측 창 및 최적화 목표(비용 vs. 성능)에 맞춘 사전 정의 및 사용자 정의 프로필 제공.
• 배포: 간편한 관리를 위한 전용 Operator를 통해 제공.