h2oai/h2o-llmstudio

H2O LLM Studio - a framework and no-code GUI for fine-tuning LLMs. Documentation: https://docs.h2o.ai/h2o-llmstudio/

解決的問題

H2O LLM Studio 提供一個無程式碼圖形使用者介面（GUI）與框架，用於微調大型語言模型（LLMs）。它消除了執行複雜微調任務所需的程式設計經驗，讓使用者能無需撰寫程式碼，即可試驗超參數與進階訓練技術。

如何運作

此工具允許使用者上傳資料集並建立實驗以微調 LLM。它支援直覺管理的 GUI，以及供進階使用者使用的命令列介面（CLI）。該框架與 NVIDIA GPU 整合，並支援低秩適應（LoRA）與 8 位訓練等記憶體效率技術。對於較大的模型，則利用 DeepSpeed 在多個 GPU 上進行分片訓練。

適用對象

專為希望不需撰寫程式碼即可微調 LLM 的使用者，以及需要視覺化方式追蹤、比較與評估模型效能的開發者所設計。

主要特色

  • 無程式碼 GUI：專用介面，用於管理整個微調流程。
  • 進階微調：支援 LoRA、8 位訓練，以及 DPO、IPO 和 KTO 等偏好最佳化技術。
  • 效能追蹤：可視化比較實驗，並與 Weights & Biases (W&B) 整合。
  • 模型匯出：可輕鬆將訓練完成的模型匯出至 Hugging Face Hub。
  • 彈性部署：可透過 Docker、CLI 或雲端實例（例如 RunPod）執行。
  • 多樣化問題類型：支援因果回歸與因果分類建模。

相關

  • 專案
    hiyouga/LlamaFactory

    LlamaFactory是一個開源工具包，允許您透過簡單的YAML設定微調、評估和提供100多個大型語言模型，提供命令列介面和基於Gradio的Web UI。它支援許多現代訓練方法（LoRA、QLoRA、RLHF、PPO、DPO等）、廣泛的模型（LLaMA-3/4、Qwen 3、Mixtral-MoE、Gemma 3等），並可在NVIDIA、AMD、Ascend NPU或雲端服務上執行。整合的監控（TensorBoard、WandB、SwanLab）和部署選項（OpenAI風格API、vLLM/SGLang）使其適用於研究人員、產品團隊和教育工作者。

  • Dispatch
    Hugging Face Skills: 讓 AI 代理能夠微調 LLMs

    Hugging Face 已推出 Hugging Face Skills，一種工具，允許像 Claude Code 這樣的編碼代理管理整個 LLM 微調生命週期，從硬體選擇到模型部署。

  • Dispatch
    Hugging Face 指南：無需程式碼訓練 LLaMA 2 聊天機器人

    Hugging Face 透過使用 Spaces、AutoTrain 和 ChatUI 提供無程式碼工作流程，使非工程師能夠微調 LLaMA 2 並將其部署為功能聊天應用程式。

  • 專案
    unslothai/unsloth-zoo

    Unsloth 的工具程式庫，可大幅降低 VRAM 使用需求，實現更快速且記憶體效率更高的 LLM、視覺與 TTS 模型微調。

  • 專案
    OptimalScale/LMFlow

    LMFlow 是一個可擴展的 Python 工具箱，用於微調大型語言模型。支援全參數訓練、LoRA、記憶體高效的 LISA 算法、QLoRA 量化，以及一系列加速技巧（FlashAttention‑2、DeepSpeed、vLLM、SGLang）。訓練完成後，提供簡單的聊天式推論腳本與可選的 Gradio/Flask 部署。此庫專為 Linux/Colab 環境設計，並提供多模態模型、分散式獎勵模型推論等可選擴充功能。