brainlid/langchain

Elixir implementation of a LangChain style framework that lets Elixir projects integrate with and leverage LLMs.

해결하는 문제

대규모 언어 모델(LLM)은 외부 데이터 또는 계산과 결합될 때 가장 강력합니다. 이 라이브러리는 모델을 다른 서비스, 데이터 소스 및 애플리케이션 로직에 연결하는 구조화된 방법을 제공함으로써 LLM을 Elixir 애플리케이션에 통합하는 데 따르는 어려움을 해결합니다.

작동 방식

이 라이브러리는 모듈형 컴포넌트와 사전 구축된 체인을 사용하여 LLM과의 상호 작용을 관리합니다. OpenAI, Anthropic, Google Gemini 및 Ollama 또는 Bumblebee를 통한 로컬 모델을 포함한 광범위한 제공업체를 지원하며, 개발자가 커스텀 Elixir 함수를 LLM이 사용할 수 있는 도구로 노출할 수 있도록 합니다. 또한 에이전트가 수행한 도구 호출 시퀀스를 캡처하고 평가하기 위한 궤적(trajectory) 시스템도 포함되어 있습니다.

대상

다양한 서드파티 API 또는 로컬 머신러닝 모델과의 통합이 필요한 데이터 인식형 챗봇 또는 자율 에이전트와 같은 정교한 AI 기반 애플리케이션을 구축하려는 Elixir 개발자.

주요 특징

  • 광범위한 모델 지원: OpenAI, Anthropic, Google, xAI와 같은 주요 제공업체는 물론 Bumblebee를 통한 로컬 호스팅과 통합됩니다.
  • 에이전트 기능: 특화된 Function 브릿지를 통해 LLM이 애플리케이션 코드와 상호 작용할 수 있도록 합니다.
  • 모듈형 설계: 커스텀 로직을 위한 저수준 컴포넌트와 신속한 개발을 위한 고수준의 기성 체인을 모두 제공합니다.
  • 에이전트 평가: 에이전트의 추론 경로 및 도구 호출 시퀀스를 캡처, 매칭 및 테스트하기 위한 LangChain.Trajectory를 포함합니다.