BoxcarsAI/boxcars
Building applications with composability using Boxcars with LLM's.
解決的問題
Boxcars 降低了 Ruby 與 Rails 開發者建構 LLM 驅動系統時的認知負擔。它提供一個統一的框架,無需為每個不同的 AI 提供者或工具撰寫一次性封裝,即可協調搜尋、資料查詢、API 呼叫與檢索。
工作原理
Boxcars 採用基於三個核心概念的模組化架構:
- Boxcars:執行特定任務的單一用途工具(例如計算機、SQL 查詢或 API 呼叫)。
- Trains:接收 Boxcars 清單與 LLM 引擎,將複雜問題分解為工具可解決的步驟的協調器。
- Engines:連接到各種 LLM 提供者(如 OpenAI、Anthropic、Groq 和 Ollama)的連接器,產生驅動工具所需的文字與邏輯。
它還包含 StationAgents,用於更高階的代理抽象,支援生命週期回呼,以及 VectorStores,用於管理嵌入與檢索。
適用對象
希望使用與現有 ActiveRecord 與 SQL 資料無縫整合的一致程式設計模型,建構 AI 助手、內部協作者或營運機器人的 Ruby 與 Rails 團隊。
主要亮點
- 工具可組合性:將領域邏輯打包為可在不同服務間重用的 Boxcar 物件。
- MCP 集成:連接到 Model Context Protocol (MCP) 伺服器,將遠端工具與本地 Ruby 工具融合。
- 提供者彈性:支援廣泛的引擎,包括 OpenAI、Anthropic、Gemini 以及透過 Ollama 的本地模型。
- 結構化輸出:透過
JSONEngineBoxcar使用 JSON Schema 強制執行 JSON 合約。 - 安全優先的資料存取:SQL 與 ActiveRecord 工具預設以唯讀模式運行,防止意外寫入操作。
相關
- 專案
- Dispatch
- 專案
- 專案
- 專案