liguodongiot/llm-action

它是什么

llm-action 是一个包含动手教程、文章和示例代码的集合，用于学习如何训练、微调、运行、压缩和评估大语言模型（LLM）。它主要用中文编写，由一位名为“吃果冻不吐果冻皮”的作者维护。该仓库本质上是一个引导式导览，带你走完 LLM 项目的整个生命周期，从搭建服务器到将模型投入生产。

里面有什么

README 组织得像一个完整的课程。它涵盖：

• 训练 – 针对 Alpaca、ChatGLM、Vicuna 和 LLaMA 等模型的实践演练，使用全量微调、LoRA、QLoRA 和 RLHF（基于人类反馈的强化学习）等技术。每个演练都链接到一篇详细文章（主要在知乎上），并且通常包含配套代码。
• 微调理论 – 一个七部分系列，解释什么是“参数高效”微调，以及 BitFit、P-Tuning、Adapter、LoRA 和 QLoRA 等方法如何工作。
• 分布式训练 – 关于如何在多 GPU 上拆分训练（数据并行、流水线并行、张量并行等）以及 PyTorch、Megatron-LM 和 DeepSpeed 等框架如何实现这些的文章。
• 推理 – 如何让训练好的模型快速回答，包括著名推理引擎（vLLM、TensorRT-LLM、Triton）的指南以及 KV Cache 或连续批处理等优化技巧。
• 压缩 – 通过量化（GPTQ、AWQ、QLoRA 等）、剪枝、知识蒸馏和低秩分解使模型更小、运行成本更低——每项都有解释性文章。
• 评估 – 测试模型性能的基准（C-Eval、CMMLU、LongBench、SWE-bench 等）以及 OpenCompass 等工具。
• 宏观主题 – 数据工程、提示工程、将 LLM 应用于实际产品、为国产硬件适配模型、AI 编译器以及面试问题。

它是如何组织的

一个详细的目录将所有内容分成清晰的章节。每个章节包含：

• 文章列表（带链接），或
• 表格，将教程与仓库中的配套代码文件夹配对，或
• 简短说明，如“待更新…”（to be updated），当还没有内容时。

因此，你可以直接跳到你关心的主题，并按照作者准备的链接进行操作。

适合谁

它面向那些想要关于 LLM 的实用、引导式学习的人——开发者、学生或研究人员，他们想从阅读理论转向在自己的硬件上实际运行训练或微调。作者还维护一个微信群和公众号，表明有一个学习者社区可以提问。

代码和社区

该仓库包含与教程匹配的即用代码（例如 llm-train/alpaca、llm-train/chatglm-lora、llm-train/peft）。徽章链接指向作者在知乎、掘金、CSDN 上的页面——大部分文章都在那里——以及用于社区讨论的微信联系方式。

注意：以上所有内容均直接取自 README。该项目不声称是官方框架或库；它是一个精选的学习材料和配套代码集。