h2oai/h2o-llmstudio

H2O LLM Studio – 大型语言模型的无代码微调

是什么 – 一个基于 Python 的框架，附带基于 H2O Wave 构建的图形化 Web UI，用于训练、评估和导出 LLM。它允许用户无需编写代码即可微调任何 Hugging Face 兼容模型，支持 LoRA、8 位训练、DeepSpeed 分片以及最新的 DPO/IPO/KTO 基于偏好优化器等现代技术。

核心功能

• 零代码 UI – 上传数据集，选择模型，设置超参数，启动训练，并实时查看日志/指标。
• 高级微调技巧 – LoRA、8 位量化、DeepSpeed 分片，以及 DPO/IPO/KTO（实验性 RLHF 替代方案）。
• 评估与对比 – 内置指标、可视化实验对比，可选集成 Weights & Biases。
• 交互式聊天 – 训练完成后，启动聊天窗口即可立即测试模型。
• 导出 – 一键或通过 CLI 命令将结果检查点推送到 Hugging Face Hub。
• CLI 模式 – 所有 UI 操作均可通过 YAML 驱动的命令行接口复现，适用于脚本或无头服务器。

典型工作流程

1. 安装（推荐使用 Python 3.10 的 uv）并运行 make llmstudio 启动 Wave 服务器。
2. 在 Chrome 中打开 http://localhost:10101/。
3. 创建 实验：选择基础 LLM，上传数据（格式请参考文档的 CSV/JSONL），选择问题类型（如因果分类、回归、DPO），并配置超参数。
4. 启动训练 – UI 将显示 GPU 使用率、损失曲线和评估分数。
5. 训练完成后，使用内置聊天功能与模型交互，或与其他运行结果进行比较。
6. 将模型导出到 Hugging Face 或本地下载检查点。

安装亮点

• 系统要求 – Ubuntu 16.04+ 且配备 NVIDIA GPU（CUDA 13，驱动 ≥ 580）。建议使用 24 GB GPU 内存以支持大模型。
• 快速开始 – make setup 会创建 uv 虚拟环境并安装依赖项。
• Docker 替代方案 – 拉取 h2oairelease/h2oai-llmstudio-app:latest 并使用 --runtime=nvidia 运行；UI 仍可通过相同 localhost 地址访问。

运行 CLI

uv run python llm_studio/train.py -Y path/to/config.yaml   # 单 GPU
bash distributed_train.sh 4 -Y path/to/config.yaml          # 多 GPU DDP
uv run python llm_studio/prompt.py -e my_experiment        # 与训练好的模型聊天
uv run python llm_studio/publish_to_hugging_face.py -p my_experiment -a <HF_KEY>

文档与社区

• 完整文档： https://docs.h2o.ai/h2o-llmstudio/
• 支持与讨论的 Discord。
• Kaggle、Colab 上的示例笔记本，以及 RunPod 云模板，支持一键启动 GPU 实例。

许可证 – Apache 2.0。

---

总结 – H2O LLM Studio 提供了一个对初学者友好、同时具备生产级能力的环境，用于微调最先进的 LLM，从数据摄入到模型导出全程自动化，同时为高级用户提供可选的低级别 CLI 控制。