apache/burr
Build applications that make decisions (chatbots, agents, simulations, etc...). Monitor, trace, persist, and execute on your own infrastructure.
解決的問題
Apache Burr 讓開發需要複雜決策的有狀態應用程式(例如 AI 代理、聊天機器人和模擬)變得更容易。它提供了一種結構化的方式來管理應用程式狀態並追蹤邏輯流程,而不會強制開發者採用特定的 LLM 或資料管理策略。
運作方式
開發者使用簡單的 Python 函數(稱為「動作」)將應用程式表示為狀態機(圖形或流程圖)。這些動作會讀取和寫入共享狀態。框架提供 ApplicationBuilder 來定義這些動作之間的轉移以及初始狀態。它還包含一個用於即時監控、追蹤和除錯執行流程的儀表板 UI。
適用對象
適用於需要處理狀態並追蹤執行過程的 Python 開發者,例如開發 AI 驅動的應用程式(如 RAG 聊天機器人或互動式助理)或非 LLM 的有狀態工作流程(如時間序列預測模擬或超參數調校)。
主要特色
- 框架無關性:可與任何 LLM 或 Python 套件搭配使用,包括與 Apache Hamilton 的整合。
- 狀態管理:透過可插入的持久化器,內建支援儲存和載入應用程式狀態。
- 可觀測性:提供專用 UI,用於即時檢視執行遙測資料並進行除錯。
- 低抽象層級:使用無依賴的核心程式庫,僅依賴標準 Python 函數。
相關
- Dispatch
- 專案
- 專案
- 專案
- 專案