unslothai/unsloth-zoo

What it solves

Unsloth Zooは、大規模言語モデル（LLM）のファインチューニングを大幅に高速化し、メモリ効率を向上させるためのユーティリティを提供します。Llama、Mistral、Qwenなどの最先端モデルのファインチューニングに伴う、高いVRAM要件と遅いトレーニング速度という課題を解決します。

How it works

このプロジェクトは、OpenAIのTriton言語で書かれたカスタムカーネルと手動バックプロパゲーションエンジンを使用して、トレーニングを最適化します。精度を犠牲にすることなく、フルファインチューニング、4-bit、8-bit、16-bitトレーニングを含むさまざまなトレーニングモードをサポートしています。NVIDIA GPU（2018年以降）で動作するように設計されており、Hugging FaceのTRLおよびTrainerライブラリと統合されています。

Who it’s for

これは、限られたハードウェア（コンシューマー向けGPUなど）でLLM、ビジョンモデル、またはテキスト読み上げ（TTS）モデルをファインチューニングしたい開発者やAI研究者、またはトレーニングパイプラインを加速させたい方向けに設計されています。

Highlights

• Significant Performance Gains: 最大2.2倍のトレーニング高速化と、最大80%のVRAM使用量の削減を実現します。
• Broad Model Support: Llama 3.1/3.2/4、Mistral、Qwen3、Gemma 3、Phi-4、およびビジョンモデルやTTSモデルを含むその他のモデルと互換性があります。
• Zero Accuracy Loss: 近似手法ではなく、正確な計算を使用します。
• Flexible Export: ファインチューニング済みモデルをGGUF、Ollama、vLLM、またはHugging Face形式でエクスポートすることを可能にします。
• Advanced RL Support: 推論モデルのトレーニングのための、メモリ効率の高い強化学習（RL）およびGRPOを含んでいます。