langroid/langroid

Harness LLMs with Multi-Agent Programming

What it solves

Langroid는 가볍고 확장 가능한 Python 프레임워크로, LLM 기반 애플리케이션 개발을 단순화하도록 설계되었습니다. 여러 AI 에이전트를 협업시켜 문제를 해결하는 오케스트레이션의 복잡성을 해결하고, 개발자 경험과 유연성에 중점을 둔 구조화된 대안을 제공합니다.

How it works

Langroid는 Actor Framework에서 영감을 받은 멀티 에이전트 패러다임을 사용합니다. 개발자는 에이전트를 설정하고 LLM, 벡터 스토어, 도구 또는 함수와 같은 특정 컴포넌트를 장착합니다. 그런 다음 이 에이전트들에게 작업을 할당하고 메시지를 교환하며 협업합니다. 이 프레임워크는 다양한 LLM(로컬 및 원격 모델 포함), 멀티모달 입력(PDF, 이미지) 등을 지원하며, 다양한 벡터 데이터베이스와 MCP(Model Context Protocol)와 같은 도구 어댑터와도 통합됩니다.

Who it’s for

프로덕션 수준의 LLM 애플리케이션을 구축하고자 하는 개발자와 연구자를 위해 설계되었습니다. 특히 멀티 에이전트 오케스트레이션, RAG(검색 강화 생성) 시스템, 구조화된 정보 추출이 필요한 경우에 적합합니다.

Highlights

  • Multi-Agent Orchestration: 직관적인 Agent 및 Task 추상화를 통해 협업 문제 해결을 지원합니다.
  • Broad LLM Support: OpenAI, Gemini, DeepSeek 등 거의 모든 LLM과 호환되며, Ollama 또는 Groq를 통한 로컬 모델도 지원합니다.
  • Advanced RAG Capabilities: 다양한 PDF 파서와 벡터 데이터베이스(e.g., Qdrant, Pinecone, pgvector)를 지원하는 DocChatAgent를 포함한 문서 기반 QA 기능을 제공합니다.
  • Extensible Tooling: 함수 호출, XML 기반 도구, MCP 도구 어댑터를 통한 MCP 서버 활용을 지원합니다.
  • Developer-Centric Features: 무한 루프 감지, "rewind and redo" 기능을 위한 라인리지 추적, 작업 시각화를 위한 HTML 로거 등을 포함합니다.