Trampoline-AI/predict-rlm

解决的问题

许多 LLM 工作流过于复杂，无法通过单个提示完成，又过于灵活，无法用固定的步骤链处理。predict-rlm 为此类复杂工作流提供了一个运行时，使模型能够探索、推理并自适应地调整解决方案路径，而非遵循僵化的预定义序列。

工作原理

基于 Recursive Language Models (RLM) 论文，该系统允许模型在沙盒化的 REPL 中编写并执行 Python 代码。用户定义输入、输出、工具以及操作流程（通过签名）。随后，模型会迭代地编写代码，用于检查文件、管理状态、调用针对特定任务（如图像分析或数据提取）的专用子模型，并使用工具，直到能够生成最终的类型化输出。

适用人群

专为需要深度调查和自适应推理的应用程序开发者设计，例如：

• 代码库分析与事件调查。
• 文档审查、脱敏与信息提取。
• 日志分析与证据收集。
• 金融建模与电子表格工作流。
• 审计与合规审查。

核心亮点

• 沙盒执行：在安全的 REPL 中执行模型生成的 Python 代码（支持 JSPI/Deno/Pyodide 或 Docker 沙盒）。
• 上下文管理：通过将大型输入作为文件路径和元数据保留，仅在需要时才检查，避免“上下文腐化”问题。
• 聚焦子调用：使用 predict() 启动类型化的 DSPy 签名，用于窄范围感知或提取任务，支持多模态。
• 结构化追踪：记录每次迭代、工具调用和子调用，便于通过 GEPA 等工具进行调试和优化。
• 技能系统：可将领域指令、PyPI 包和工具打包为可复用的“技能”（例如内置的电子表格和 PDF 技能）。