Cinnamon/kotaemon

An open-source RAG-based tool for chatting with your documents.

What it solves

Kotaemon 是一個開源的 RAG（檢索增強生成） UI，讓使用者能與自己的文件聊天。它彌合了需要乾淨文件 QA 介面的最終使用者與想要可自訂框架來建置與測試自家 RAG 流程的開發者之間的鴻溝。

How it works

系統使用混合 RAG 流程，結合全文與向量檢索並搭配重新排序，以優化答案品質。支援多種 LLM 供應商（OpenAI、Azure、Groq）以及透過 Ollama 或 llama-cpp-python 的本地模型。文件處理方面，提供多模態解析（OCR、表格與圖形抽取），並在瀏覽器內的 PDF 檢視器中以高亮方式顯示相關段落，提供詳細引用。

Who it’s for

  • 最終使用者：尋找友善介面，以在私人或公開文件集合上執行 QA。
  • 開發者：想要使用基於 Gradio 的 UI 來建置、客製化與部署 RAG 流程的框架。

Highlights

  • 混合檢索：結合全文與向量搜尋並進行重新排序。
  • 進階引用：瀏覽器內 PDF 檢視器，具高亮與相關性分數。
  • 多模態支援：使用各種本地與 API 載入器處理含圖表與表格的文件。
  • 複雜推理：支援問題分解與基於代理人的推理（例如 ReAct、ReWOO）。
  • 彈性部署：可透過 Docker（lite/full/ollama 版本）或本機 Python 安裝使用。