unslothai/notebooks

unslothai/notebooks – LLMのファインチューニング、推論、実験用の実行可能なColabノートブック

何がここにあるか – Google Colab上でホストされているJupyterノートブックの厳選コレクションで、幅広いオープンソースの大規模言語モデル（LLM）とUnslothスタックの使い方を示しています。ノートブックの内容は以下の通りです：

• ファインチューニング（例：GPT‑OSS 20 B、Llama 3.1、Gemma 4）– データ準備、トレーニングループ、チューニング済みチェックポイントの保存。
• 推論 / チャットUI – Unsloth Studio ノートブックはシンプルなWebチャットフロントエンドを提供します。
• マルチモーダル – 視覚（Gemma 4、Qwen 3‑VL、Mistral Ministral 3）、音声（Gemma 3N、Orpheus‑TTS）、埋め込み（EmbeddingGemma、Qwen3‑Embedding）。
• 強化学習 / GRPO / ORPO – LLMをゲームプレイエージェント（数独、2048、マインスイーパ）に変えるノートブックや、GSM8K数学問題などのタスクで報酬モデルトレーニング（GRPO、DPO、ORPO）を実行するノートブック。
• ハードウェア固有のデモ – BF16、FP8、A100専用カーネル、DGX‑Sparkの例。

すべてのノートブックは自己完結型です：必要な unsloth Pythonパッケージをインストールし、モデル重みをダウンロードし、トレーニングまたは推論コードを実行し、結果を表示するまで、すべて無料のColabセッション内で完結します。

---

使い方

1. 必要なノートブックの Open in Colab バッジをクリック（例：gpt‑oss (20B) – Fine‑tuning）。新しいColabタブでノートブックが開きます。
2. 最初のセルを実行して unsloth と任意の依存関係（torch、transformersなど）をインストールします。
3. ステップバイステップのセクションに従います：
   • データ準備 – 通常HuggingFaceからデータセットを読み込むか、独自のCSV/JSONをアップロードします。
   • トレーニング – Unslothの高速カーネル最適化を活用する単一の trainer.fit() 呼び出し。
   • 評価 / 推論 – テキスト生成、画像に対するビジョンモデル実行、またはチャットUIの起動。
4. 終了後、ファインチューニング済みチェックポイントをダウンロードしたり、Gradio風のデモをエクスポートできます。

---

なぜ有用なのか

特徴	なぜ重要か
広範なモデルカバレッジ	Gemma、Qwen、Llama 3.x、Mistral、Phi‑4など最新のオープンソースLLMファミリーでUnslothが動作することを示しています。
マルチモーダルの例	視覚、音声、埋め込みのノートブックにより、非テキストモダリティを同じトレーニングパイプラインに統合する方法が確認できます。
RL / GRPOノートブック	LLMをゲームエージェントとして使用したり、報酬モデルトレーニングを行うことで、最先端の研究分野を体験できます。
ハードウェア固有のカーネル	BF16、FP8、A100最適化ノートブックにより、同じコードベースで追加のパフォーマンスを引き出す方法が示されています。
Colabでのゼロセットアップ	ローカルGPU不要。Googleアカウントを持つ誰でも、即座にフルワークフローを試すことができます。

---

どの人に向いているか

• ファインチューニングやRLベースのLLMトレーニングの再現性のあるスクリプトを素早く得たい研究者。
• 公開モデルを自社データに適応させるためのスタートキットが必要な実務家。ボイラープレートコードを書く必要がありません。
• 現代のLLMトレーニングテクニック（PEFT、量子化、GRPO/DPO）を学びたい学生。インタラクティブなノートブック環境を好む人。

---

さらに詳しく知りたい場合

• ドキュメント – https://unsloth.ai/docs/get-started/unsloth-notebooks
• Discordコミュニティ – https://discord.gg/unsloth
• メインのUnslothライブラリ – https://github.com/unslothai/unsloth

---

TL;DR – unslothai/notebooks は、高性能なUnslothライブラリを使用して、数十種類のオープンソースLLMのファインチューニング、推論、強化学習実験用の実行可能なColabノートブックを提供する、本物で積極的にメンテナンスされているリポジトリです。これはコードライブラリそのものではなく、実践的な学習とプロトタイピングのリソースです。