DataDog/toto

해결하는 문제

Toto는 관측 메트릭스(시스템 모니터링 데이터)에 특화된 다변량 시계열 예측을 위한 기초 모델입니다. 다양한 소프트웨어 스택과 서비스에서 관련된 여러 변수의 미래 값을 예측하는 문제를 해결하며, 각 새로운 데이터셋에 대해 광범위한 도메인 특화 학습이 필요하지 않습니다.

작동 방식

Toto는 디코더 전용 트랜스포머 아키텍처를 사용합니다. Toto 2.0은 시간과 변수 주의를 번갈아 사용하는 u-μP-스케일드 트랜스포머를 활용하여 고차원 시계열을 효율적으로 처리합니다. 확률적 예측을 제공하며, 단일 예측값이 아니라 점 예측과 불확실성 추정(분위수)을 모두 생성합니다.

Toto 1.0은 비례 인자 분해 시공간 주의 메커니즘과 Student-T 혼합 모델을 사용하여 확률적 예측을 수행합니다. 프로젝트에는 실제 관측 메트릭스 데이터에서의 예측 성능을 평가하기 위한 BOOM(Benchmark of Observability Metrics) 데이터셋도 포함되어 있습니다.

대상 사용자

• SRE 및 DevOps 엔지니어: 시스템 메트릭스를 모니터링하여 잠재적인 장애나 용량 문제를 예측하는 사람.
• 데이터 과학자: 시계열 예측 및 기초 모델 연구에 종사하는 사람.
• ML 엔지니어: 본격적인 관측 파이프라인에서 제로샷 또는 피니튜닝된 예측 모델을 구현하는 개발자.

주요 특징

• 제로샷 예측: 특정 데이터셋에 대한 피니튜닝 없이 미래 값을 예측할 수 있는 능력.
• 확률적 예측: 분위수 헤드(2.0) 또는 Student-T 혼합 모델(1.0)을 통해 불확실성 추정을 생성.
• 대규모 사전 학습: Toto 1.0은 Datadog 메트릭스를 포함해 2조 이상의 시계열 데이터 포인트로 학습됨.
• 확장 가능한 모델 패밀리: Toto 2.0은 400만에서 25억 파라미터까지 다양한 크기의 모델 제공.
• 외생 변수 지원: Toto 1.0은 미래에 알려진 공변량을 사용하여 정확도를 향상시킬 수 있음.