jingyaogong/minimind

解決的問題

MiniMind 的目標是降低學習大型語言模型（LLM）開發的門檻。它提供了一種方法，讓個人能使用消費級 GPU 從零開始訓練一個功能性的超小型語言模型（約 64M 參數），避開巨量模型的「黑箱」特性以及第三方框架的高階抽象。

工作原理

本專案使用原生 PyTorch 實作完整的 LLM 訓練流程，避免使用高階函式庫抽象以確保透明度。採用 Transformer Decoder-Only 架構（與 Qwen3 生態系統一致），並支援 Dense 與混合專家（MoE）配置。流程涵蓋整個生命週期：分詞器訓練、預訓練、監督式微調（SFT）、LoRA、RLHF（DPO）、RLAIF（PPO/GRPO/CISPO）、工具使用與模型蒸餾。

適用對象

• 希望透過從零撰寫與訓練程式碼來理解 LLM 內部機制的 AI 初學者與學生。
• 尋找輕量、可重現的 LLM 實驗起點的開發者。
• 硬體資源有限（例如單張 NVIDIA 3090）但希望體驗完整訓練流程的使用者。

特色

• 超輕量級：最小版本約為 GPT-3 的 1/2700，支援快速訓練（單張 3090 上 SFT 可於約 2 小時內完成）。
• 全棧實作：不依賴高階封裝，以原生 PyTorch 實作預訓練、SFT、RLHF 與 RLAIF。
• 廣泛相容：支援 transformers、llama.cpp、vllm 與 ollama 進行推論。
• 進階功能：支援 MoE、YaRN（用於長文本外推）、代理型 RL（用於工具使用情境）與自適應思考鏈。