EdoardoBotta/RQ-VAE-Recommender

[Pytorch] Generative retrieval model using semantic IDs from "Recommender Systems with Generative Retrieval"

解决的问题

解决生成式推荐系统实现的复杂性,其中物品被视为令牌而非仅是ID。不仅提供神经层,还提供完整的实验流水线,涵盖语义ID标记化、数据集准备、标识符冲突处理以及物品检索序列模型的训练。

工作原理

该项目实现两阶段工作流:

  1. 语义ID标记化:残差量化变分自编码器(RQ-VAE)将目录物品映射为短的离散语义ID元组。
  2. 生成式检索:Transformer(特别是T5编码器-解码器)接收用户这些语义ID的历史记录,并生成最可能的下一个物品的ID。

适用人群

专为关注语义标记化、向量量化、冷启动物品表示和生成式检索的推荐系统研究人员和实践者设计。

主要亮点

  • 灵活的量化:支持K-means初始化和多种梯度估计器,包括Gumbel-Softmax、直通估计和旋转技巧。
  • 集成流水线:包含Amazon Reviews和MovieLens数据集的自动预处理功能。
  • 冲突处理:支持语义ID冲突消歧和基于语料库前缀的生成约束。
  • 研究就绪:提供基于T5的检索模型,并内置命中率和NDCG评估指标。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目