tracel-ai/burn

해결하는 문제

Burn은 Python 기반의 훈련 환경에서 프로덕션 엔진으로 모델을 내보내는 취약하고 손실이 큰 과정을 해결합니다. 훈련과 추론을 단일 코드베이스로 통합하여 동일한 코드를 둘 다에 사용할 수 있게 하여, 디바이스 내 개인화 및 연합 학습을 간소화합니다.

작동 방식

Burn은 Rust로 작성된 텐서 라이브러리 및 딥러닝 프레임워크입니다. 통합된 API를 사용해 여러 플랫폼에서 텐서 연산을 실행합니다. 성능을 유지하면서도 유연성을 희생하지 않기 위해, 텐서 연산 스트림을 JIT 컴파일하고 자동 커널 퓨전을 수행합니다. 모델 변경 시 5초 미만으로 재컴파일이 가능한 인크리멘탈 컴파일을 설계했습니다.

대상 사용자

Rust의 속도와 안정성을 원하면서도 Python과 유사한 피드백 루프를 원하는 연구자 및 개발자, 그리고 임베디드 장치(no_std)에서 대규모 GPU 클러스터, WebAssembly를 통한 웹 브라우저에 이르기까지 다양한 하드웨어에 모델을 배포하고자 하는 팀에게 적합합니다.

주요 특징

• 다중 플랫폼 백엔드 지원: CUDA, ROCm, Metal, Vulkan, WebGPU, CPU 백엔드를 지원합니다.
• 백엔드 데코레이터: Autodiff(자동 미분) 및 Fusion(커널 퓨전)과 같은 기능을 기존 백엔드에 데코레이터로 추가할 수 있습니다.
• 모델 상호운용성: ONNX 모델을 네이티브 Rust 코드로 가져오고, PyTorch 또는 Safetensors에서 가중치를 로드할 수 있습니다.
• 배포 유연성: WebAssembly를 통해 브라우저에서 추론을 지원하고, no_std 지원을 통해 바이너리 임베디드 환경에서도 작동 가능합니다.
• 통합 도구: 실시간 훈련 모니터링을 위한 터미널 UI 대시보드와 전용 벤치마킹 툴을 포함합니다.