ryoiki-tokuiten/Deepthink

Using LLMs for iteratively exploring the solution search space at scale.

解决的问题

Iterative Studio 提供了一个框架,用于扩展“测试时计算”,以解决那些通常会导致 LLM 陷入认知循环的复杂问题。它通过并行探索不同策略,并在修正过程中注入结构化噪声来打破局部最小值,从而防止代理重复同样的错误。

工作原理

该系统主要通过三种模式运行:

  • 深度思考模式:一个多代理系统,并行生成多种高层策略来解决问题。它独立测试假设,生成“信息包”来指导执行代理。为避免认知循环,一个“结构化噪声代理”在修正阶段引入随机但有界的工件和替代逻辑片段,迫使模型考虑可能忽略的路径。最终,一个评判代理从并行分支中选出最佳结果。
  • 自适应深度思考模式:一种由编排器主导的深度思考版本,使用基于通行证的工作流。它管理策略生成、假设测试和执行,能够保存成功策略并替换失败策略。
  • 上下文模式:一种更简单的三代理协作(主生成器、迭代代理和记忆代理),专注于迭代优化和通过历史压缩实现自动上下文窗口管理。

适用人群

面向希望通过实现复杂的多代理管道和迭代优化循环来推动 LLM 问题解决能力前沿的开发者与研究人员。

亮点

  • 并行策略探索:同时执行多种不同的方法来解决一个问题。
  • 结构化噪声注入:通过在修正阶段引入随机但有界的工件来打破 LLM 的认知循环。
  • 独立假设测试:隔离验证不确定性,为执行代理提供聚焦的上下文。
  • 集成沙盒:为代理提供安全的虚拟环境,以执行代码并验证工件。
  • 多提供商支持:兼容所有主流 LLM 提供商和本地模型。

相关

  • 项目
  • Dispatch
  • 项目
  • 项目
  • 项目