BoxcarsAI/boxcars

Building applications with composability using Boxcars with LLM's.

解決的問題

Boxcars 降低了 Ruby 與 Rails 開發者建構 LLM 驅動系統時的認知負擔。它提供一個統一的框架,無需為每個不同的 AI 提供者或工具撰寫一次性封裝,即可協調搜尋、資料查詢、API 呼叫與檢索。

工作原理

Boxcars 採用基於三個核心概念的模組化架構:

  • Boxcars:執行特定任務的單一用途工具(例如計算機、SQL 查詢或 API 呼叫)。
  • Trains:接收 Boxcars 清單與 LLM 引擎,將複雜問題分解為工具可解決的步驟的協調器。
  • Engines:連接到各種 LLM 提供者(如 OpenAI、Anthropic、Groq 和 Ollama)的連接器,產生驅動工具所需的文字與邏輯。

它還包含 StationAgents,用於更高階的代理抽象,支援生命週期回呼,以及 VectorStores,用於管理嵌入與檢索。

適用對象

希望使用與現有 ActiveRecord 與 SQL 資料無縫整合的一致程式設計模型,建構 AI 助手、內部協作者或營運機器人的 Ruby 與 Rails 團隊。

主要亮點

  • 工具可組合性:將領域邏輯打包為可在不同服務間重用的 Boxcar 物件。
  • MCP 集成:連接到 Model Context Protocol (MCP) 伺服器,將遠端工具與本地 Ruby 工具融合。
  • 提供者彈性:支援廣泛的引擎,包括 OpenAI、Anthropic、Gemini 以及透過 Ollama 的本地模型。
  • 結構化輸出:透過 JSONEngineBoxcar 使用 JSON Schema 強制執行 JSON 合約。
  • 安全優先的資料存取:SQL 與 ActiveRecord 工具預設以唯讀模式運行,防止意外寫入操作。

相關

  • 專案
  • Dispatch
  • 專案
  • 專案
  • 專案