BoxcarsAI/boxcars

Building applications with composability using Boxcars with LLM's.

解决的问题

Boxcars 降低了 Ruby 和 Rails 开发者构建 LLM 驱动系统时的认知负担。它提供了一个统一的框架,无需为每个不同的 AI 提供商或工具编写一次性封装,即可协调搜索、数据查询、API 调用和检索。

工作原理

Boxcars 采用基于三个核心概念的模块化架构:

  • Boxcars:执行特定任务的单用途工具(例如计算器、SQL 查询或 API 调用)。
  • Trains:接收 Boxcars 列表和 LLM 引擎,将复杂问题分解为工具可解决的步骤的协调器。
  • Engines:连接到各种 LLM 提供商(如 OpenAI、Anthropic、Groq 和 Ollama)的连接器,生成驱动工具所需的文本和逻辑。

它还包含 StationAgents,用于更高层次的代理抽象,支持生命周期回调,以及 VectorStores,用于管理嵌入和检索。

适用人群

希望使用与现有 ActiveRecord 和 SQL 数据无缝集成的一致编程模型,构建 AI 助手、内部协作者或运营机器人的 Ruby 和 Rails 团队。

主要亮点

  • 工具可组合性:将领域逻辑打包为可在不同服务间复用的 Boxcar 对象。
  • MCP 集成:连接到 Model Context Protocol (MCP) 服务器,将远程工具与本地 Ruby 工具融合。
  • 提供方灵活性:支持广泛的引擎,包括 OpenAI、Anthropic、Gemini 以及通过 Ollama 的本地模型。
  • 结构化输出:通过 JSONEngineBoxcar 使用 JSON Schema 强制执行 JSON 合约。
  • 安全优先的数据访问:SQL 和 ActiveRecord 工具默认以只读模式运行,防止意外写入操作。

相关

  • 项目
  • Dispatch
  • 项目
  • 项目
  • 项目