unslothai/notebooks

unslothai/notebooks – 用于 LLM 微调、推理和实验的即开即用 Colab 笔记本

这是什么 – 一个精心整理的 Jupyter 笔记本集合（托管在 Google Colab 上），展示了如何使用 Unsloth 堆栈与多种开源大语言模型（LLMs）进行交互。笔记本涵盖以下内容：

• 微调（例如：GPT‑OSS 20 B、Llama 3.1、Gemma 4）– 数据准备、训练循环和保存微调后的检查点。
• 推理 / 聊天 UI – Unsloth Studio 笔记本提供一个简单的 Web 聊天前端。
• 多模态 – 视觉（Gemma 4、Qwen 3‑VL、Mistral Ministral 3）、音频（Gemma 3N、Orpheus‑TTS）和嵌入（EmbeddingGemma、Qwen3‑Embedding）。
• 强化学习 / GRPO / ORPO – 将 LLM 变为游戏智能体（数独、2048、扫雷）或在 GSM8K 数学任务上运行奖励模型训练（GRPO、DPO、ORPO）的笔记本。
• 硬件特定演示 – BF16、FP8、A100 专用内核、DGX‑Spark 示例。

所有笔记本均为 自包含：它们会安装所需的 unsloth Python 包，下载模型权重，运行训练或推理代码，并在免费的 Colab 会话中显示结果。

---

如何使用

1. 点击您需要的笔记本的 Open in Colab 标签（例如：gpt‑oss (20B) – 微调）。笔记本将在新的 Colab 选项卡中打开。
2. 运行前几个单元格以安装 unsloth 和任何可选依赖项（torch、transformers 等）。
3. 按照分步说明进行操作：
   • 数据准备 – 通常从 HuggingFace 加载数据集，或上传您自己的 CSV/JSON 文件。
   • 训练 – 通过单个 trainer.fit() 调用，利用 Unsloth 的快速内核优化。
   • 评估 / 推理 – 生成文本、在图像上运行视觉模型，或启动聊天 UI。
4. 完成后，您可以下载微调后的检查点或导出一个 Gradio 风格的演示。

---

为何有用

特性	为何重要
广泛的模型覆盖	展示了 Unsloth 在最新开源 LLM 家族（Gemma、Qwen、Llama 3.x、Mistral、Phi‑4 等）上的工作能力。
多模态示例	视觉、音频和嵌入笔记本让用户了解如何将非文本模态集成到同一训练流水线中。
强化学习 / GRPO 笔记本	展示了将 LLM 用作游戏代理和奖励模型训练的前沿研究方向。
硬件特定内核	BF16、FP8 和 A100 优化笔记本展示了如何从同一代码库中榨取额外性能。
Colab 上零配置	无需本地 GPU；只要有 Google 账号，任何人都可立即尝试完整工作流。

---

适合谁

• 希望快速获得可复现的微调或基于强化学习的 LLM 训练脚本的 研究人员。
• 需要快速上手工具包，将公开模型适配到自有数据而无需编写样板代码的 实践者。
• 学习现代 LLM 训练技巧（PEFT、量化、GRPO/DPO）并偏好交互式笔记本环境的 学生。

---

更多信息

• 文档 – https://unsloth.ai/docs/get-started/unsloth-notebooks
• Discord 社区 – https://discord.gg/unsloth
• 主 Unsloth 库 – https://github.com/unslothai/unsloth

---

TL;DR – unslothai/notebooks 是一个真实且持续维护的仓库，提供数十种开源 LLM 的即开即用 Colab 笔记本，用于微调、推理和强化学习实验，使用高性能的 Unsloth 库。它是一个实用的学习和原型设计资源，而非代码库本身。