BoxcarsAI/boxcars

해결하는 문제

Boxcars는 LLM 기반 시스템을 구축하는 Ruby 및 Rails 개발자의 인지 부담을 줄여줍니다. 다양한 AI 제공자나 도구에 대해 각각의 래퍼를 작성할 필요 없이 검색, 데이터 쿼리, API 호출, 검색을 통합적으로 조율할 수 있는 단일 프레임워크를 제공합니다.

작동 방식

Boxcars는 세 가지 주요 개념을 기반으로 한 모듈식 아키텍처를 사용합니다:

• Boxcars: 계산기, SQL 쿼리, API 호출과 같은 특정 작업을 수행하는 단일 목적의 도구입니다.
• Trains: Boxcars 목록과 LLM 엔진을 받아 복잡한 문제를 도구가 해결할 수 있는 단계로 분해하는 오케스트레이터입니다.
• Engines: OpenAI, Anthropic, Groq, Ollama 등의 다양한 LLM 제공자에 연결하는 연결기로, 도구를 제어하기 위한 텍스트와 논리를 생성합니다.

또한 생명주기 콜백을 갖춘 고수준 에이전트 추상화인 StationAgents와 임베딩 및 검색을 관리하는 VectorStores도 포함되어 있습니다.

대상 사용자

기존의 ActiveRecord 및 SQL 데이터와 쉽게 통합할 수 있는 일관된 프로그래밍 모델을 사용해 AI 어시스턴트, 내부 코파일럿, 운영 봇을 구축하고자 하는 Ruby 및 Rails 팀입니다.

주요 특징

• 도구 조합 가능성: 다양한 서비스 간에 재사용 가능한 Boxcar 객체로 도메인 로직을 패키지화합니다.
• MCP 통합: Model Context Protocol (MCP) 서버에 연결하여 원격 도구와 로컬 Ruby 도구를 통합합니다.
• 제공자 유연성: OpenAI, Anthropic, Gemini 및 Ollama를 통한 로컬 모델을 포함해 다양한 엔진을 지원합니다.
• 구조화된 출력: JSONEngineBoxcar를 통해 JSON 스키마를 사용해 JSON 계약을 강제합니다.
• 보안 우선 데이터 접근: SQL 및 ActiveRecord 도구는 실수로 쓰기 작업을 수행하는 것을 방지하기 위해 기본적으로 읽기 전용 모드로 설정됩니다.