apache/burr
Build applications that make decisions (chatbots, agents, simulations, etc...). Monitor, trace, persist, and execute on your own infrastructure.
解决的问题
Apache Burr 让开发需要决策逻辑的有状态应用(如 AI 智能体、聊天机器人和模拟)变得更加容易。它提供了一种结构化的方式来管理应用状态并跟踪复杂的决策流,而无需强制用户使用特定的 LLM 或数据管理框架。
工作原理
用户使用称为 action 的简单 Python 函数,将应用表示为状态机(图形或流程图)。这些 action 定义了它们从应用状态中读取和写入的数据。然后,开发人员定义这些 action 之间的转换,以指导工作流。
该框架包含一个遥测 UI,用于对状态机的执行进行实时监控、追踪和调试,以及用于保存和加载应用状态的可插拔持久化器。
适用对象
专为构建 AI 驱动型应用(如 RAG 聊天机器人或交互式助手)或非 LLM 有状态工作流(如时间序列预测模拟或超参数调优)且需要强大的状态管理和执行追踪方法的开发人员设计。
亮点
- 框架无关:适用于任何 LLM 或 Python 库(例如 LangChain, LlamaIndex, Apache Hamilton)。
- 实时遥测:内置 UI,用于实时监控和追踪系统执行情况。
- 状态管理:提供用于构建幂等、自我持久化工作流的低抽象库。
- 多功能用例:同时支持 AI 智能体和传统的软件模拟。