unslothai/notebooks

unslothai/notebooks – 用於 LLM 微調、推論與實驗的即開即用 Colab 筆記本

這是什麼 – 一個精心整理的 Jupyter 筆記本集合（托管於 Google Colab），展示如何使用 Unsloth 堆疊與多種開源大型語言模型（LLMs）互動。筆記本涵蓋以下內容：

• 微調（例如：GPT‑OSS 20 B、Llama 3.1、Gemma 4）– 資料準備、訓練迴圈與儲存微調後的檢查點。
• 推論 / 聊天 UI – Unsloth Studio 筆記本提供一個簡單的 Web 聊天前端。
• 多模態 – 視覺（Gemma 4、Qwen 3‑VL、Mistral Ministral 3）、音訊（Gemma 3N、Orpheus‑TTS）與嵌入（EmbeddingGemma、Qwen3‑Embedding）。
• 強化學習 / GRPO / ORPO – 將 LLM 變為遊戲智能體（數獨、2048、掃雷）或在 GSM8K 數學任務上執行獎勵模型訓練（GRPO、DPO、ORPO）的筆記本。
• 硬體特定示範 – BF16、FP8、A100 專用內核、DGX‑Spark 範例。

所有筆記本皆為 自包含：它們會安裝所需的 unsloth Python 套件，下載模型權重，執行訓練或推論程式碼，並在免費的 Colab 會話中顯示結果。

---

如何使用

1. 點擊您需要的筆記本的 Open in Colab 標籤（例如：gpt‑oss (20B) – 微調）。筆記本將在新的 Colab 選項卡中開啟。
2. 執行前幾個單元格以安裝 unsloth 和任何可選相依性（torch、transformers 等）。
3. 按照逐步說明進行操作：
   • 資料準備 – 通常從 HuggingFace 加載資料集，或上傳您自己的 CSV/JSON 檔案。
   • 訓練 – 透過單一 trainer.fit() 呼叫，利用 Unsloth 的快速內核優化。
   • 評估 / 推論 – 產生文字、在影像上執行視覺模型，或啟動聊天 UI。
4. 完成後，您可以下載微調後的檢查點或匯出一個 Gradio 風格的示範。

---

為何實用

特性	為何重要
廣泛的模型覆蓋	展示 Unsloth 在最新開源 LLM 家族（Gemma、Qwen、Llama 3.x、Mistral、Phi‑4 等）上的運作能力。
多模態範例	視覺、音訊與嵌入筆記本讓使用者了解如何將非文字模態整合至同一訓練流程中。
強化學習 / GRPO 筆記本	展示將 LLM 用作遊戲代理與獎勵模型訓練的前沿研究方向。
硬體特定內核	BF16、FP8 與 A100 優化筆記本展示如何從相同程式碼庫中榨取額外效能。
Colab 上零設定	無需本地 GPU；只要有 Google 帳號，任何人都可立即嘗試完整工作流程。

---

適合誰

• 希望快速取得可重現的微調或基於強化學習的 LLM 訓練腳本的 研究人員。
• 需要快速上手工具包，將公開模型適配至自有資料而無需撰寫樣板程式碼的 實務者。
• 學習現代 LLM 訓練技巧（PEFT、量化、GRPO/DPO）並偏好互動式筆記本環境的 學生。

---

更多資訊

• 文件 – https://unsloth.ai/docs/get-started/unsloth-notebooks
• Discord 社群 – https://discord.gg/unsloth
• 主 Unsloth 套件 – https://github.com/unslothai/unsloth

---

TL;DR – unslothai/notebooks 是一個真實且持續維護的倉儲，提供數十種開源 LLM 的即開即用 Colab 筆記本，用於微調、推論與強化學習實驗，使用高性能的 Unsloth 套件。它是一個實用的學習與原型設計資源，而非程式碼庫本身。