LaurentMazare/tch-rs

해결하는 문제

tch-rs는 PyTorch C++ API(libtorch)용 Rust 바인딩을 제공하여 개발자가 Rust 프로그래밍 언어 내에서 PyTorch의 강력한 텐서 연산, 자동 미분, 신경망 모듈을 직접 사용할 수 있도록 합니다. 이는 Rust의 안전성과 동시성 기능을 활용하면서도 고성능 AI 모델과 애플리케이션을 구축할 수 있게 해줍니다.

작동 방식

이 프로젝트는 C++ libtorch 라이브러리 위에 얇은 래퍼를 제공합니다. 사용자는 원래 C++ API에 가까운 Rust 인터페이스를 통해 PyTorch 텐서와 신경망 구성 요소와 상호작용할 수 있습니다. 크레이트는 시스템 전체 libtorch 설치, Python PyTorch 설치, 또는 자동으로 사전 빌드된 libtorch 바이너리를 다운로드하는 방식으로 링크할 수 있습니다.

대상 사용자

Rust에서 PyTorch의 딥러닝 기능을 사용하고자 하는 개발자. 모델을 처음부터 훈련시키거나, 사전 훈련된 가중치로 추론을 수행할 때(안전한 텐서 형식(SafeTensors)도 지원), 또는 TorchScript JIT를 통해 모델을 배포할 때 적합합니다.

주요 특징

• PyTorch 통합: 텐서 연산과 자동 미분을 위한 libtorch 직접 바인딩.
• 신경망 API: nn::seq와 nn::VarStore를 사용한 아키텍처 구축 및 파라미터 관리 도구.
• 유연한 링크: 시스템 전체, Python 기반, 또는 자동 바이너리 다운로드 방식의 libtorch 지원.
• 가중치 로딩: SafeTensors 형식을 사용해 PyTorch에서 사전 훈련된 가중치를 가져올 수 있음.
• 다양한 응용 예시: MNIST, ResNet, 문자 수준 RNN, 간단한 GPT의 구현 포함.