meta-recsys/generative-recommenders

解決的問題

本專案解決傳統深度學習推薦模型（DLRMs）所面臨的計算擴展瓶頸。透過將推薦問題重新定義為生成建模問題，使能夠使用數兆參數級的序列轉換器，更高效地處理數十億使用者規模的系統。

工作原理

本專案實作「生成式推薦器」（GRs），將推薦視為序列生成任務。引入兩種主要演算法以加速訓練與推論：

• HSTU（階層式序列轉換器單元）： 專為高效率序列推薦設計的特殊架構。
• M-FALCON： 專為進一步加速生成過程而設計的演算法。

為達成最大效率，程式碼庫包含自訂的 Triton 內核與 CUDA 內核，並提供基於 FlashAttention V3 的注意力實作，專為 H100 GPU 優化。

適用對象

專為從事大規模推薦系統的機器學習研究人員與工程師設計，特別是希望將序列模型擴展至數十億使用者與數兆參數規模的使用者。

主要亮點

• 大規模擴展： 展示實際部署的數十億使用者規模推薦系統的擴展法則。
• 效能提升： 聲稱相比傳統方法，訓練與推論速度提升 10 倍至 1000 倍。
• 實證成功： 在 MovieLens 與 Amazon Reviews 資料集上，表現優於 SASRec、BERT4Rec 與 GRU4Rec 等基線模型。
• 生產就緒： 包含 DLRM-v3 模型與訓練及推論的基準測試，便於實際場景部署。