huskydoge/Awesome-Loop-Models

A curated list of papers and selected technical blogs on Loop Models.

它解决了什么问题

大多数神经网络以一次直通方式处理输入:层堆叠起来,每层只使用一次。本项目关注一个不同的模型家族——循环模型——其中相同的学习层、块或算子被多次重用,要么在单次前向传播中沿深度方向,要么通过将模型自身的输出反馈回来跨时间方向。这种重用带来了参数效率、更好的推理、自适应计算和测试时更易扩展等好处,但这些模型分散在许多论文中,难以追踪。本项目收集、组织和结构化循环模型的研究,以便人们找到相关工作、理解设计选择并跟踪该领域的进展。

它是如何工作的

该仓库是一个精选的、结构化的循环模型论文和博客列表,由huuskydoge和贡献者维护。完整目录位于交互式网页浏览器中(链接在README中),您可以在其中搜索、按章节浏览、按部分和循环设计筛选,并阅读摘要、场所、代码链接和每日简报。

每个条目由YAML文件(papers/*.yaml或blogs/*.yaml)通过Python构建脚本(scripts/build.py)生成。目录组织为主题地图:它有五个主要部分(基础、循环带来的好处、构建/训练/部署、理解/应用、开放问题),分为章节和部分。每篇论文都带有受控值的设计轴标签,如loop_topology、sharing、depth_control,以及声明(claims、comparison)。包含严格的范围定义:只有真正重用共享组件的模型才在范围内;代理循环、重复的完整模型调用和简单的序列递归被排除在外。README包含“从这里开始”的必读核心参考列表、“最新添加”部分、“被引用最多”表格和长篇博客文章列表。

适合谁

研究人员、工程师和学生,从事或对循环、递归深度、权重共享、深度均衡和类似神经架构感兴趣。对于任何想找论文、理解设计权衡、跟踪新出版物或了解该领域开放问题的人来说,它都很有用。

亮点

  • 交互式浏览器——在一个地方搜索、筛选和阅读TL;DR、场所信息、代码链接和每日简报。
  • 结构化主题地图——论文组织在10个章节的32个部分中,便于按主题导航。
  • 截至上次更新,354篇论文和8篇博客,每日监视添加新的arXiv论文。
  • 受控元数据——每篇论文记录设计轴(循环拓扑、共享、深度控制)和声称的好处,没有自由形式的标签。
  • 清晰的范围定义——明确排除代理循环、重复的完整模型调用和普通序列递归,使列表保持专注。
  • 开放贡献——任何人都可以通过拉取请求提交论文或博客,使用结构化的YAML模板和构建脚本。

相关

  • 项目
  • 项目
  • 项目
  • 项目