unslothai/notebooks

250+ Fine-tuning & RL Notebooks for text, vision, audio, embedding, TTS models.

解决的问题

本仓库提供了一系列现成的 Google Colab 笔记本,旨在简化大语言模型 (LLMs) 和多模态模型的微调、训练及推理过程。它消除了为各种开源架构设置复杂训练环境的技术障碍。

工作原理

每个笔记本都是一个独立的运行环境,引导用户完成数据准备、模型训练和推理。这些笔记本利用 Unsloth 框架在微调过程中优化内存使用和速度。它们涵盖了广泛的技术,包括标准微调、强化学习 (GRPO, PPO, DPO, ORPO) 以及视觉、音频和嵌入生成等专业任务。

适用人群

本仓库适合希望微调或实验最先进开源模型(如 Llama, Qwen, Gemma 和 Mistral)而无需管理复杂基础设施的开发者、研究人员和 AI 爱好者。

主要亮点

  • 针对流行模型架构(包括 Llama 3.2, Qwen 3 和 Gemma 4)的广泛笔记本库。
  • 支持高级训练方法,如组相对策略优化 (GRPO) 和用于推理任务的强化学习。
  • 针对多模态能力的专业工作流,包括视觉语言模型和文本转语音 (TTS) 微调。
  • 一键部署到 Google Colab,可立即进行数据准备和模型训练实验。

相关

  • Dispatch
  • 项目
  • 项目
  • 项目
  • 项目