Paper-Replications – 经典和最新AI/ML论文的从零开始PyTorch实现

这是什么

• 一个包含自包含PyTorch代码的集合，复现了许多有影响力的机器学习论文的结果。每个子目录专注于一个模型或技术（例如，BERT、GPT、Llama、Diffusion、GAN变体、LoRA、Whisper等），并包含运行原始论文中描述的实验所需的脚本、笔记本，有时还包括预训练权重。

为什么重要

• 重新实现对于学习论文算法的工作原理、验证声明以及提供可扩展或微调的基线非常有价值。通过提供从经典RNN到最新LLM的广泛模型，这个仓库作为学生和研究人员的实用“实验室笔记本”，让他们深入探索头条背后的代码。

主要内容

• 文件夹层次结构反映了主要研究领域（注意力机制、Transformer、GAN、视觉-语言模型、RLHF方法等）。
• 每个文件夹内通常包含：
  • 一个README或笔记，总结原始论文和任何偏差。
  • 构建模型、训练和评估的Python脚本/笔记本。
  • 可选的预训练检查点或结果日志，用于快速验证。
• 仓库还链接到smolhub，其中一些模型作为推理端点部署。

开始使用

1. 克隆仓库并导航到你想探索的论文文件夹。
2. 按照本地README/笔记本说明操作——通常只需pip install -r requirements.txt，然后运行提供的训练或推理脚本。
3. 为了快速验证，你可以将复现的指标（通常在脚本末尾打印）与原始出版物中报告的数字进行比较。

谁维护它

• 由Yuvraj Singh（GitHub @YuvrajSingr-mist）编写，并通过问题或拉取请求向社区贡献开放。
• 在GitHub上赞助，并通过“Buy me a coffee”链接，额外感谢两位个人赞助者。

许可证

• 代码和笔记本在Apache 2.0许可证下发布。
• 文档、图表、生成的结果和任何发布的工件在CC BY 4.0下。

如果使用请引用

@software{singh_paper_replications_2025,
  title     = {Paper-Replications: From-Scratch PyTorch Replications of Classic and SOTA AI/ML Papers},
  author    = {Singh, Yuvraj},
  year      = {2026},
  publisher = {Zenodo},
  doi       = {10.5281/zenodo.23198171},
  url       = {https://github.com/YuvrajSingh-mist/Paper-Replications}
}

底线

• 如果你想要具体、可运行的PyTorch代码，模拟知名AI论文的行为，这个仓库是一个现成的工具箱。它不是用于生产的库，而是一个教育和研究导向的资源，用于复现和扩展最先进的模型。