saintslab/carbontracker

Track and predict the energy consumption and carbon footprint of training deep learning models.

해결하는 문제

딥러닝 모델 학습 중 에너지 소비와 탄소 발자국을 추적하고 예측할 수 있는 방법을 제공하여, 연구자와 개발자가 AI 워크로드의 환경적 영향을 이해하는 데 도움을 줍니다.

작동 방식

이 도구는 학습 중 CPU 및 GPU의 전력 사용량을 모니터링합니다. 스크립트용 명령줄 래퍼로 사용하거나 Python 코드에 직접 통합할 수 있습니다. 초기 몇 에포크를 모니터링함으로써 전체 학습 실행에 대한 총 탄소 발자국을 예측할 수 있습니다. 또한 CO2당량(CO2eq)을 자동차가 주행하는 거리와 같은 이해하기 쉬운 지표로 변환합니다.

대상 사용자

모델 학습에 따른 환경 비용을 측정하고 보고하고자 하는 AI 연구자 및 머신러닝 엔지니어

주요 기능

  • 예측 추적: 초기 학습 에포크를 기반으로 총 에너지 및 탄소 소비량을 예측합니다.
  • 유연한 통합: CLI 도구 또는 Python 라이브러리로 사용 가능합니다.
  • 하드웨어 호환성: NVIDIA GPU(NVML을 통해) 및 Intel CPU(RAPL을 통해)를 지원합니다.
  • 보고서 생성: 상세한 PDF 보고서를 생성하고, 여러 로그 파일을 하나의 추정치로 집계할 수 있습니다.
  • C 수준의 해석 가능성: 탄소 배출량을 자동차 주행 거리와 같은 실제 세계의 예로 변환합니다.

관련

  • 프로젝트
  • Dispatch
  • 프로젝트
  • 프로젝트
  • 프로젝트