osolmaz/switch

解决的问题

switch 解决了将“决策模型”（即输出特定选择的概率而非生成自由文本的 AI 模型）集成到复杂多步骤任务中的问题。它提供了一种结构化的方式来管理这些模型，使它们无需自行生成代码或工具调用即可完成文档分析或游戏等任务。

工作原理

开发者定义一个“领域”，它充当特定任务的状态机。该框架管理一个代理循环，其中模型被呈现类型化问题（如选择一步棋或选择文档页面）。模型提供选择，框架的转换函数相应地更新状态。此循环重复直到任务完成，每一步都记录在跟踪文件中，允许在不重新调用模型的情况下进行调试或重放过程。

适用对象

该框架适用于构建专用 AI 代理或评估裁判的开发者，他们希望使用高效、窄领域的决策模型。它非常适合那些需要执行复杂任务（如浏览大型文档集进行评分或玩游戏）的场景，在这些场景中，通用聊天模型可能过于昂贵或缺乏必要的精度。

亮点

• 为决策模型提供统一接口，以执行多步骤推理。
• 通过允许模型“导航”文档并仅读取相关部分，实现高效的上下文管理。
• 内置支持从跟踪文件重放任务运行，以调试或分叉逻辑。
• 提供命令行工具来管理运行、在浏览器中查看进度以及处理案例文件夹。
• 通过使用小型、领域特定的模型，设计为成本高效。