unslothai/unsloth

解決する課題

Unslothは、さまざまなハードウェア上でAIモデルをローカルで実行・学習するための包括的なプラットフォームです。大規模言語モデル（LLM）やその他のAIモデルの微調整に伴う高いVRAM要件と遅い学習速度という課題に対処し、精度を損なうことなく、70%少ないVRAMで2倍の速度での学習を可能にします。

仕組み

Unslothは、ネイティブデスクトップアプリ（Unsloth Desktop）、WebベースのUI（Unsloth Studio）、コードベース版（Unsloth Core）の3つの主要インターフェースを提供します。NVIDIA、AMD、Intel GPU、CPU、およびWindows、Linux、macOS上のVulkanバックエンドなど、幅広いハードウェアをサポートしています。このシステムにより、LLM、拡散モデル、埋め込みモデル、音声モデルの実行と学習が可能になり、PDF、CSV、DOCXファイルからデータセットを構築するためのツールも提供されます。

対象ユーザー

コンシューマー向けハードウェアでローカルでのモデル学習や推論を行いたい開発者、AI研究者、愛好家向けに設計されています。また、Claude CodeやCodexなどのツールを使用して、ローカルモデルをエージェントワークフローに統合したいユーザーにも最適です。

主な特徴

• 高効率な学習: 微調整が2倍高速化し、VRAM使用量が70%削減されます。
• 幅広いハードウェアサポート: Windows、Linux、macOSで動作し、マルチGPU、NVIDIA、AMD、Intel、CPUをサポートしています。
• エージェント統合: コマンド一つ（unsloth start）で、ローカルモデルをClaude CodeやCodexなどのエージェントに接続できます。
• 多様なモデルサポート: LLM、拡散モデル、TTS、埋め込みモデルをサポートし、GGUF、NVFP4、FP8などの形式に対応しています。
• 高度な学習技術: LoRA、QLoRA、フル微調整、事前学習、RL、GRPO、DPOを完全にサポートしています。
• RAGと検索: プライベートWeb検索、ディープリサーチ、RAG機能を備えています。