Cinnamon/kotaemon

An open-source RAG-based tool for chatting with your documents.

What it solves

Kotaemon은 오픈소스 RAG (Retrieval‑Augmented Generation) UI로, 사용자가 자신의 문서와 채팅할 수 있게 해줍니다. 문서 QA를 위한 깔끔한 인터페이스가 필요한 최종 사용자와 자체 RAG 파이프라인을 구축·테스트하고자 하는 개발자 사이의 격차를 메워줍니다.

How it works

시스템은 하이브리드 RAG 파이프라인을 사용해 전체 텍스트 검색과 벡터 검색을 결합하고 재랭킹을 통해 답변 품질을 최적화합니다. 다양한 LLM 제공자(OpenAI, Azure, Groq)와 Ollama 또는 llama‑cpp‑python을 통한 로컬 모델을 지원합니다. 문서 처리에서는 OCR, 표, 그림 추출을 포함한 멀티모달 파싱을 제공하며, 브라우저 내 PDF 뷰어에서 관련 섹션을 하이라이트하고 상세 인용 정보를 보여줍니다.

Who it’s for

  • 최종 사용자: 개인 또는 공개 문서 컬렉션에 대해 QA를 수행하고자 하는 사용자 친화적인 인터페이스를 찾는 분.
  • 개발자: Gradio 기반 UI를 사용해 RAG 파이프라인을 구축, 커스터마이징 및 배포하고자 하는 분.

Highlights

  • 하이브리드 검색: 전체 텍스트와 벡터 검색을 결합하고 재랭킹을 수행합니다.
  • 고급 인용: 하이라이트와 관련성 점수를 제공하는 브라우저 내 PDF 뷰어.
  • 멀티모달 지원: 다양한 로컬 및 API 기반 로더를 사용해 그림과 표가 포함된 문서를 처리합니다.
  • 복합 추론: 질문 분해 및 에이전트 기반 추론(예: ReAct, ReWOO)을 지원합니다.
  • 유연한 배포: Docker(lite/full/ollama 버전) 또는 로컬 Python 설치를 통해 이용 가능합니다.