patterns-ai-core/langchainrb

해결하는 문제

Langchain.rb는 Ruby 개발자가 LLM 기반 애플리케이션을 구축할 수 있도록 통합 프레임워크를 제공합니다. 다양한 AI 제공업체 간의 차이를 추상화하여, 개발자가 핵심 애플리케이션 로직을 다시 작성하지 않고도 모델이나 벡터 데이터베이스를 자유롭게 전환할 수 있게 합니다.

작동 방식

이 프로젝트는 채팅 완성, 프롬프트 관리, 임베딩 생성과 같은 LLM 작업을 위한 일관된 인터페이스를 제공하는 미들웨어 계층 역할을 합니다. 문서 로딩 및 파싱과 벡터 검색 데이터베이스를 연결하는 검색 증강 생성(RAG) 파이프라인 구축을 위한 모듈과, 대화 스레드, 도구 실행 및 시스템 지침을 관리하는 Assistant 클래스가 포함되어 있습니다.

대상 사용자

Python 기반 생태계로 전환하지 않고도 기존 애플리케이션에 AI 기능을 통합하려는 Ruby 및 Ruby on Rails 개발자를 위해 설계되었습니다.

주요 특징

• 통합 LLM 인터페이스: OpenAI, Anthropic, Google Gemini, Mistral AI를 포함한 주요 제공업체와 Ollama를 통한 로컬 모델을 지원합니다.
• 광범위한 RAG 지원: Pinecone, Weaviate, Chroma, Pgvector 등 다양한 벡터 데이터베이스와의 내장 통합 기능을 제공합니다.
• 구조화된 출력: LLM이 특정 JSON 스키마로 데이터를 반환하도록 강제하는 파서가 포함되어 있으며, 자동 오류 수정 기능을 갖추고 있습니다.
• 프롬프트 관리: few-shot 프롬프트를 포함하여 프롬프트 템플릿을 생성, 저장 및 로드하기 위한 도구를 제공합니다.
• 어시스턴트 프레임워크: 다중 턴 대화 및 자동화된 도구 호출을 관리하기 위한 고수준 추상화를 제공합니다.