Abraxas-365/langchain-rust

해결하는 문제

LangChain Rust는 Rust 프로그래밍 언어를 사용하여 대규모 언어 모델(LLM)로 구동되는 복잡한 애플리케이션을 구축할 수 있는 방법을 제공합니다. 원본 LangChain 프레임워크의 구성 가능성과 오케스트레이션 패턴을 고성능, 타입 안전한 환경으로 가져옵니다.

작동 방식

이 라이브러리는 복잡한 AI 워크플로우를 생성하기 위해 연결할 수 있는 모듈식 컴포넌트 세트를 구현합니다. 다음과 같은 표준화된 인터페이스를 제공합니다:

• LLM 및 임베딩: OpenAI, Azure OpenAI, Ollama, Anthropic Claude, MistralAI 등의 제공업체와의 통합.
• 벡터 스토어: OpenSearch, Postgres, Qdrant, Sqlite, SurrealDB 등의 데이터베이스를 지원하여 임베딩의 효율적인 검색을 가능하게 합니다.
• 체인: LLM 체인, 대화형 체인, Q&A, SQL 기반 상호작용을 위한 사전 구축된 로직.
• 에이전트: Google Search(Serpapi), DuckDuckGo, 명령줄과 같은 외부 서비스와 상호작용할 수 있는 도구 기반 에이전트.
• 문서 로더: PDF, HTML, CSV, Git 커밋, 소스 코드에서 데이터를 가져오는 도구.

대상 사용자

Python이나 JavaScript 대신 Rust의 성능, 안정성, 동시성의 이점을 활용하여 LLM 기반 애플리케이션을 개발하고자 하는 개발자.

주요 특징

• 광범위한 제공업체 지원: Ollama 및 FastEmbed와 같은 로컬 옵션을 포함한 다양한 LLM 및 임베딩 제공업체와 호환.
• 확장 가능한 도구: 웹 검색, 수학(Wolfram), 텍스트 음성 변환을 위한 내장 도구 포함.
• 의미 기반 라우팅: 정적 및 동적 라우팅을 지원하여 의미에 따라 쿼리를 전달할 수 있습니다.
• 다양한 데이터 수집: 다양한 파일 형식 및 소스 코드 저장소용 내장 로더 제공.