flagos-ai/FlagScale

解決的問題

FlagScale 解決了在不同硬體晶片之間遷移 AI 模型所帶來的高成本與複雜性。它透過提供大模型全生命週期的統一介面，消除了為每個新晶片廠商重新撰寫軟體堆疊的需要。

工作原理

它是 FlagOS 生態系統的核心工具包，將 Megatron-LM、veRL、vLLM 等多個開源後端引擎整合至單一設定與 CLI 介面之下。採用插件式架構，硬體特定的適配由獨立插件處理，讓使用者能「一次開發，跨多種晶片遷移」。

適用對象

專為需要在多樣化硬體環境中訓練、進行強化學習或部署大語言模型（LLM）、多模態模型與具身智能模型的 AI 研究人員與工程師設計。

核心亮點

• 統一介面：訓練、強化學習與推論使用單一 CLI 與設定檔。
• 跨晶片相容：大幅降低不同 AI 晶片廠商之間的遷移成本。
• 廣泛模型支援：相容 DeepSeek-V3/R1、Qwen 系列、LLaMA 2/3、Mixtral 等主流模型。
• 生態整合：與 FlagCX 實現跨晶片通訊，與 FlagOS-Robo 支援具身智能應用。