crmne/ruby_llm

One delightful Ruby framework for every major AI provider. Build AI agents, chatbots, RAG apps, and multimodal workflows in beautiful, expressive code.

What it solves

RubyLLM은 Ruby와 Rails 애플리케이션에 AI 기능을 통합하기 위한 통합 프레임워크입니다. 여러 개의 무거운 공급자 전용 클라이언트와 일관성 없는 API 형식을 관리할 필요 없이 다양한 LLM 공급자에 대해 단일하고 일관된 인터페이스를 제공합니다.

How it works

이 프레임워크는 광범위한 AI 모델(OpenAI, Anthropic, Google 및 Ollama를 통한 로컬 모델 포함)과 상호 작용하기 위한 고수준 Ruby API를 제공합니다. 모델별 로직을 추상화하여 코드를 다시 작성하지 않고도 공급자를 전환할 수 있습니다. 이미지, 비디오, 오디오, 문서와 같은 멀티모달 입력을 지원하며, 에이전트 생성, 구조화된 JSON 출력 처리, ActiveRecord를 통한 Rails 직접 통합을 위한 내장 도구를 제공합니다.

Who it’s for

단일 AI 공급자의 SDK에 종속되지 않고 Ruby와 Rails에서 챗봇, 에이전트, RAG 시스템 등 AI 기반 기능을 구축하고자 하는 개발자를 위한 것입니다.

Highlights

  • Unified Interface: One API for OpenAI, xAI, Anthropic, Gemini, VertexAI, Bedrock, DeepSeek, Mistral, Ollama, and more.
  • Multimodal Support: Native handling of images, video, audio transcription, and document extraction (PDFs, CSVs, etc.).
  • Agentic Capabilities: Built-in support for creating reusable agents with specific instructions and custom Ruby tools.
  • Rails Integration: Includes acts_as_chat for ActiveRecord and an optional ready-to-use chat UI.
  • Advanced AI Features: Support for streaming responses, structured output via schemas, embeddings, and provider-side batch processing.
  • Lightweight: Minimal dependencies (Faraday, Zeitwerk, and Marcel).