Puiching-Memory/TAAC_2026

解決的問題

本專案提供一個針對大規模推薦系統的工程工作空間，特別著重於統一序列建模（使用者隨時間的行為）與特徵互動（高維稀疏特徵）的挑戰。其目標是擺脫碎片化架構，提供單一框架，用以對使用者行為序列與非序列多領域特徵進行建模，以實現轉換率預測。

工作原理

工作空間實作了模組化流程，用於實驗各種推薦模型。它使用基於 Parquet 檔案的串流資料流程，支援多種快取策略，並支援多種 GPU 內核（Triton、TileLang 和 PyTorch）以執行 RMSNorm 和 FlashAttention 等運算。系統允許使用者透過共用的資料流程與評估流程，快速切換 Baseline、InterFormer、OneTrans、TokenFormer、Symbiosis、DualQ 和 QueryFormer 等不同模型架構。

適用對象

專為從事推薦系統研究與開發的研究人員與開發者設計，特別是參與或研究 TAAC 2026 競賽（聚焦統一序列建模與特徵互動）的人群。

主要亮點

• 快速實驗：僅需兩個檔案（__init__.py 和 model.py）即可整合新模型。
• 高效能內核：支援多種 GPU 後端（torch、Triton、TileLang），用於關鍵層以優化推論與訓練。
• 統一架構：實作多種先進的統一建模方法，彌補序列建模與特徵互動之間的差距。
• 工程嚴謹性：包含完整的 CI 覆蓋、分層測試（單元、合約、整合、基準、GPU）以及自動打包部署。