ludwig-ai/ludwig

Low-code framework for building custom LLMs, neural networks, and other AI models

What it solves

Ludwig 移除了撰寫複雜樣板 Python 程式碼以訓練、微調與部署 AI 模型的需求。使用者只需在簡單的 YAML 設定檔中定義模型架構、訓練參數與資料輸入，即可讓深度學習變得更易於使用，適用於更廣泛的任務，而不必具備深度程式開發的專業知識。

How it works

Ludwig 採用宣告式方法，使用者在 YAML 檔案中指定「什麼」(例如輸入特徵、輸出特徵與模型類型)，而非「如何」(訓練迴圈與資料管線)。框架會自行處理底層的 PyTorch 實作，包括資料載入、訓練與評估。它支援多種後端，讓使用者只需極少的設定變更，即可從本機執行切換到 Ray 叢集或多 GPU 分散式訓練。

Who it’s for

Ludwig 為資料科學家與 AI 實務者設計，協助他們加速實驗迴圈，同時也適合想在表格、 多模態 或 LLM 任務上構建高效能模型、卻不想編寫大量程式碼的非專業使用者。

Highlights

  • Comprehensive LLM Support: 包含監督式微調 (SFT)、如 DPO 與 GRPO 的對齊技術，以及大量的 PEFT 適配器 (LoRA、DoRA 等) 與量化方法。
  • Multimodal Capabilities: 原生支援混合輸入，包括文字、影像、音訊、數值與時間序列資料。
  • Production Ready: 內建模型服務工具，支援透過 REST API、vLLM、Ray Serve 與 KServe 進行部署，並支援匯出至 SafeTensors 與 ONNX。
  • Automated Tooling: 提供 LLM 驅動的設定產生器、AutoML 以搜尋最佳模型組合，並整合 Optuna 與 Ray Tune 進行超參數最佳化。