langroid/langroid

해결하는 문제

Langroid는 LLM 기반 애플리케이션 개발을 간소화하기 위한 가벼우면서도 확장 가능한 Python 프레임워크입니다. 여러 AI 에이전트가 협력하고 메시지를 주고받으며 문제를 함께 해결해야 하는 다중 에이전트 시스템 구축의 복잡성을 해결합니다. 이는 액터 프레임워크를 영감으로 삼은 원칙적인 접근 방식에 기반합니다.

작동 방식

개발자는 에이전트를 설정하고, 선택적으로 LLM, 벡터 저장소, 특정 도구 또는 함수를 부여합니다. 이러한 에이전트는 작업(Task)에 할당되며, 상호작용 루프를 관리합니다. 에이전트는 메시지 교환을 통해 협력할 수 있으며, 프레임워크는 다양한 LLM(로컬 및 원격 모델 포함), 멀티모달 입력(PDF, 이미지 등), MCP(Model Context Protocol) 서버와의 통합을 지원하여 도구 어댑터를 통해 에이전트 기능을 확장할 수 있습니다.

대상 사용자

프로덕션 준비된 LLM 애플리케이션을 개발하는 개발자 및 연구자에게 적합하며, 특히 다중 에이전트 오케스트레이션, 구조화된 정보 추출, 또는 RAG(Retrieval-Augmented Generation) 시스템이 필요한 경우에 적합합니다.

주요 특징

• 다중 에이전트 오케스트레이션: 협업 문제 해결을 위한 액터 프레임워크를 영감으로 삼은 설계.
• 광범위한 LLM 지원: 실질적으로 모든 LLM을 지원하며, 로컬 모델(Mistral 등)과 원격 API(OpenAI, Gemini, DeepSeek 등)를 포함합니다.
• 확장 가능한 도구 기능: 함수 호출, MCP 도구 어댑터, 다양한 PDF 파서 및 벡터 데이터베이스(Qdrant, Milvus, Pinecone 등)를 지원합니다.
• 고급 RAG 기능: 리트리ieval 정확도를 향상시키는 Reciprocal Rank Fusion(RRF)과 구조 인식 Markdown 청크 분할을 지원하는 DocChatAgent 포함.
• 개발자 경험: 에이전트와 작업에 대한 간단한 설정과 유연한 추상화에 중점을 둡니다.