alexzhang13/rlm

General plug-and-play inference library for Recursive Language Models (RLMs), supporting various sandboxes.

解决的问题

RLM 解决了语言模型处理近乎无限长度上下文的挑战。此范式允许模型以程序化方式分解任务,并递归地调用自身以处理较小、可管理的信息片段,而非将庞大的提示词传递给单一模型调用。

运作原理

RLM 将标准的完成调用替换为一个系统,将上下文视为 REPL (Read-Eval-Print Loop) 环境中的变量。语言模型通过编写并执行代码与此环境互动。在此代码中,模型可以将子 LM 调用作为函数启动,并将提示词与上下文视为对象。这不仅将互动从基于 JSON 的工具调用转变为 CodeAct 风格的架构,还让模型能够管理自身的执行流程与递归子调用。

适用对象

此项目适合 AI 研究人员与开发人员,用于构建需要处理极长上下文或执行需要程序化控制的复杂多步骤推理的高级推理引擎或代理程序。

特色亮点

  • 灵活的 REPL 环境:支持多种执行环境,包括本地 (exec/IPython)、Docker 以及云端沙盒 (Modal, Prime Intellect, E2B, Daytona)。
  • 递归推理引擎:提供一个可扩展的引擎,使模型能够递归地调用自身以解决任务。
  • 整合式训练架构:包含基于 prime-rl 与 verifiers 的训练环境,专门用于训练 RLM 范式的模型。
  • 轨迹记录:具备记录器与专用可视化工具,用于检查代码、子 LM 与根 LM 调用的完整执行路径。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目