apache/burr
Build applications that make decisions (chatbots, agents, simulations, etc...). Monitor, trace, persist, and execute on your own infrastructure.
解決的問題
Apache Burr 讓開發需要決策邏輯的有狀態應用(如 AI 智能體、聊天機器人與模擬)變得更加容易。它提供了一種結構化的方式來管理應用狀態並追蹤複雜的決策流,而無需強制使用者使用特定的 LLM 或數據管理框架。
工作原理
使用者使用稱為 action 的簡單 Python 函數,將應用表示為狀態機(圖形或流程圖)。這些 action 定義了它們從應用狀態中讀取與寫入的數據。接著,開發人員定義這些 action 之間的轉換,以指導工作流。
該框架包含一個遙測 UI,用於對狀態機的執行進行即時監控、追蹤與除錯,以及用於儲存與載入應用狀態的可插拔持久化器。
適用對象
專為構建 AI 驅動型應用(如 RAG 聊天機器人或互動式助手)或非 LLM 有狀態工作流(如時間序列預測模擬或超參數調優)且需要強大的狀態管理與執行追蹤方法的開發人員設計。
亮點
- 框架無關:適用於任何 LLM 或 Python 函式庫(例如 LangChain, LlamaIndex, Apache Hamilton)。
- 即時遙測:內建 UI,用於即時監控與追蹤系統執行情況。
- 狀態管理:提供用於構建冪等、自我持久化工作流的低抽象函式庫。
- 多功能用例:同時支援 AI 智能體與傳統的軟體模擬。