pykeio/ort

解決する課題

Rust開発者がONNX形式の機械学習モデルをハードウェアアクセラレーションで実行するための手段を提供します。これにより、PyTorch、TensorFlow、Keras、scikit-learn、PaddlePaddleなどのフレームワークで学習されたモデルを、データセンターからエンドユーザーのデバイスまで、さまざまな環境で効率的にデプロイできます。

仕組み

ort はMicrosoftのONNX RuntimeライブラリのRustインターフェース（ラッパー）として機能し、同時に純粋なRustで実装された他のランタイムもサポートしています。ほぼすべての利用可能なハードウェアアクセラレータ上でONNXモデルを実行可能です。

対象ユーザー

学習済み機械学習モデルをデバイス上やクラウド上で、高いパフォーマンスとハードウェアアクセラレーションを活用してデプロイする必要があるRust開発者。

ハイライト

• ハードウェアアクセラレーションによる推論と学習。
• ONNX Runtimeを介した幅広いハードウェアアクセラレータのサポート。
• PyTorch、TensorFlow、Keras、scikit-learn、PaddlePaddleのモデルとの互換性。
• デバイス上でのデプロイに適した軽量設計。