crmne/ruby_llm

해결하는 문제

RubyLLM은 Ruby 및 Rails 애플리케이션에 AI 기능을 간편하게 통합할 수 있도록 설계된 네이티브 Ruby 프레임워크입니다. OpenAI, Anthropic, Google, Ollama를 통한 로컬 모델 등 여러 AI 제공자와 상호작용할 수 있는 단일하고 일관된 API를 제공하며, 각 기능마다 제공자별 코드를 작성할 필요가 없습니다.

작동 방식

이 프레임워크는 다양한 제공자 간에 동일한 Ruby 메서드를 사용하여 다양한 AI 작업을 수행할 수 있도록 추상화 계층을 제공합니다. Ruby on Rails와 깊이 통합되어 있으며, Active Record를 통한 지속성, Active Storage를 통한 파일 첨부, Hotwire를 통한 스트리밍 응답을 지원합니다. 모델 레지스트리, 도구 호출, 사용량 추적, 배치 처리 등의 복잡한 작업은 내부적으로 자동으로 처리됩니다.

대상 사용자

기존 애플리케이션에 챗봇, 에이전트, 멀티모달 AI와 같은 AI 기반 기능을 깔끔한 Ruby 네이티브 구문을 사용해 구축하고 싶은 Ruby 및 Rails 개발자에게 적합합니다.

주요 특징

• 멀티모달 지원: 일관된 인터페이스를 통해 텍스트, 이미지, 오디오, 비디오, PDF를 처리합니다.
• 에이전트 기능: 특정 지시사항과 도구를 가진 재사용 가능한 에이전트를 생성할 수 있으며, 도구 실행 시 인간의 승인(인간-중재)도 가능합니다.
• 풍부한 제공자 생태계: OpenAI, Azure, xAI, Anthropic, Gemini, Bedrock, DeepSeek 등 17개 이상의 제공자를 내장 지원합니다.
• Rails 통합: 설치용 생성기, 데이터베이스 마이그레이션, 선택적 사용 가능한 채팅 UI를 제공합니다.
• 고급 AI 도구: Ruby 스키마를 통한 구조화된 출력, 임베딩, 재랭킹, OCR, 모더레이션 기능을 포함합니다.
• 운영 도구: 내장된 비용 추적, 토큰 수 계산, 프롬프트 캐싱, 파이버 기반 비동기 동시성 처리를 제공합니다.