alibaba/RecIS

解决的问题

RecIS 旨在应对超大规模推荐系统训练中的挑战。它特别解决了与稀疏和密集计算相关的性能瓶颈，使工业级推荐模型能够在一个框架内与多模态和大模型训练相结合。

工作原理

基于 PyTorch 生态系统，RecIS 采用模块化架构来简化训练流程：

• ColumnIO：处理分布式分片数据的读取和预计算。
• Feature Engine：通过操作融合管理特征工程（如哈希和分桶），减少 GPU 开销。
• Embedding Engine：管理可扩展、无冲突的 KV 存储嵌入表，并通过多表融合优化内存访问。
• Saver：使用 SafeTensors 格式存储和加载稀疏参数。
• Pipelines：协调整个训练工作流，包括多阶段和多目标计算。

为优化性能，它采用两级存储架构（IDMap 和 EmbeddingBlocks）来支持动态嵌入，并使用 All-to-All 集体通信实现分布式参数分片和请求合并。

适用人群

适用于需要高性能稀疏模型训练的工业级推荐、广告和搜索系统领域的机器学习工程师和研究人员。

主要亮点

• 统一框架：整合推荐与大模型场景下的稀疏-密集计算需求。
• GPU 优化：通过操作融合和向量化内存访问，最大化 GPU 利用率并减少启动开销。
• 分布式扩展：在计算节点间实现高效的参数聚合与分片。
• 动态嵌入：支持嵌入存储的灵活硬件适配（GPU/CPU 部署）。