crmne/ruby_llm

해결하는 문제

RubyLLM은 Ruby 및 Rails 애플리케이션에 AI 기능을 쉽게 통합할 수 있도록 설계된 네이티브 Ruby 프레임워크입니다. 19개의 서로 다른 AI 제공업체와 상호 작용할 수 있는 통합 API를 제공하여, 개발자가 애플리케이션 로직을 다시 작성하지 않고도 호스팅 모델과 로컬 모델 간에 전환할 수 있도록 합니다.

작동 방식

이 프레임워크는 다양한 AI 제공업체(OpenAI, Anthropic, Gemini, Ollama 등)에 대한 추상화 계층 역할을 합니다. 개발자는 채팅, 이미지 및 비디오 생성, 오디오 전사, OCR과 같은 작업에 대해 일관된 단일 인터페이스를 사용할 수 있습니다. 도구 사용(함수 호출), 에이전트 루프, Ruby 스키마를 통한 구조화된 출력 등 고급 AI 패턴을 지원합니다.

대상 사용자

특정 제공업체의 SDK에 종속되지 않고 대화형 에이전트, 문서 분석, 멀티모달 AI와 같은 AI 기반 기능을 구축하려는 Ruby 및 Rails 개발자를 위한 것입니다.

주요 특징

• 통합 제공업체 API: OpenAI, Azure, xAI, Anthropic, Gemini, VertexAI, Bedrock, Cohere, DeepSeek, Ollama를 포함한 19개 제공업체 지원.
• 멀티모달 기능: 이미지, 비디오, 오디오 분석 및 이미지와 비디오 생성에 대한 내장 지원.
• 에이전트 프레임워크: 인간 개입 승인 워크플로우를 포함하여 특정 지침과 도구를 갖춘 재사용 가능한 에이전트를 생성하기 위한 도구.
• Rails 통합: 지속성을 위한 Active Record, 첨부 파일을 위한 Active Storage, 스트리밍 응답을 위한 Hotwire와의 긴밀한 통합.
• 평가 도구 모음: 데이터 세트와 모델 기반 평가자를 사용하여 에이전트의 정확성을 테스트하는 시스템.
• 개발자 도구: 프롬프트 템플릿(ERB), 비용 추적, 토큰 계산, 프롬프트 캐싱 포함.