oxiglade/mlx-rs

What it solves

Apple の MLX ライブラリに対して、安全で Rust らしい（idiomatic）インターフェースを提供します。これにより、Rust デベロッパーは Apple Silicon に最適化された機械学習モデルを構築・実行することが可能になります。

How it works

このプロジェクトは、MLX 配列フレームワークの Rust バインディングとして機能します。MLX のコア機能を利用しており、これには、メモリとパフォーマンスを最適化するための遅延評価（lazy evaluation）、再コンパイルなしで柔軟な引数の形状を変更できる動的計算グラフ、および CPU と GPU 間でデータのコピーなしで演算を行える統合メモリモデルが含まれます。

Highlights

• Apple Silicon Optimization: Specifically designed for high performance on Mac hardware.
• Unified Memory: Eliminates the need to copy data between devices.
• Multi-Device Support: Supports computations on both CPU and GPU.
• Example Implementations: Includes samples for training MNIST and performing text generation with Mistral.