patterns-ai-core/langchainrb

Build LLM-powered applications in Ruby

What it solves

Langchain.rb는 Ruby gem으로, LLM 기반 애플리케이션 구축 과정을 단순화합니다. 여러 LLM 제공자와의 상호작용, 프롬프트 관리, Retrieval Augmented Generation(RAG) 및 AI 어시스턴트 구현을 위한 통합 인터페이스를 제공합니다.

How it works

이 라이브러리는 다양한 LLM API의 복잡성을 임베딩 생성, 프롬프트 완성, 채팅 완성을 위한 일관된 메서드 집합으로 추상화합니다. few‑shot 예시를 포함한 프롬프트 템플릿, LLM 텍스트를 JSON으로 변환하는 구조화 출력 파서, RAG 워크플로를 지원하는 벡터 검색 데이터베이스 통합 인터페이스를 포함합니다. 또한 Assistant 클래스를 통해 대화 스레드를 관리하고 외부 도구와 통합하여 인터랙티브 AI 에이전트를 구현합니다.

Who it’s for

단일 제공자에 얽매이지 않고 각 API마다 보일러플레이트 코드를 작성하지 않고도 애플리케이션에 대형 언어 모델(LLM)을 통합하고자 하는 Ruby 및 Rails 개발자를 위한 것입니다.

Highlights

  • Unified LLM Interface: OpenAI, Anthropic, Google Gemini, Mistral AI, Ollama 등 다양한 제공자를 지원합니다.
  • RAG Support: Chroma, Pinecone, Pgvector, Weaviate와 같은 벡터 데이터베이스를 통합하고, PDF, DOCX 등 여러 형식의 파일 파서를 내장합니다.
  • Prompt Management: 프롬프트 템플릿 및 few‑shot 예시를 생성, 저장, 로드하는 도구를 제공합니다.
  • Structured Output: LLM 응답을 특정 JSON 스키마로 강제 변환할 수 있는 파서와 오류를 수정하는 OutputFixingParser를 제공합니다.
  • AI Assistants: 도구 실행 및 대화 기록 유지를 할 수 있는 챗봇 구축을 위한 고수준 클래스를 제공합니다.