Cinnamon/kotaemon

An open-source RAG-based tool for chatting with your documents.

What it solves

Kotaemon 是一个开源的 RAG（检索增强生成） UI，允许用户与自己的文档聊天。它弥合了需要干净界面的文档 QA 终端用户与想要可定制框架来构建和测试自己 RAG 流水线的开发者之间的差距。

How it works

系统使用混合 RAG 流水线，结合全文和向量检索并进行重新排序，以优化答案质量。支持多种 LLM 提供商（OpenAI、Azure、Groq）以及通过 Ollama 或 llama-cpp-python 的本地模型。文档处理方面，提供多模态解析（OCR、表格和图形提取），并在浏览器内的 PDF 查看器中高亮显示相关章节，提供详细引用。

Who it’s for

  • 终端用户：寻找用户友好的方式，在私有或公开的文档集合上执行 QA。
  • 开发者：希望使用基于 Gradio 的 UI 来构建、定制和部署 RAG 流水线的框架。

Highlights

  • 混合检索：结合全文和向量搜索并进行重新排序。
  • 高级引用：浏览器内 PDF 查看器，带高亮和相关性评分。
  • 多模态支持：使用各种本地和基于 API 的加载器处理包含图形和表格的文档。
  • 复杂推理：支持问题分解和基于代理的推理（例如 ReAct、ReWOO）。
  • 灵活部署：可通过 Docker（lite/full/ollama 版本）或本地 Python 安装使用。