tonykipkemboi/ollama_pdf_rag

A full-stack demo showcasing a local RAG (Retrieval Augmented Generation) pipeline to chat with your PDFs.

What it solves

它允许用户在完全本地的环境下与 PDF 文档聊天，确保敏感数据永远不离开机器。它解决了需要昂贵或侵犯隐私的云服务来对个人或企业文档执行检索增强生成（RAG）的问题。

How it works

该应用使用由 LangChain 和 ChromaDB 驱动的流水线，将 PDF 处理为向量嵌入。它与 Ollama 集成，在本地运行大型语言模型（LLM）和嵌入模型。用户可以通过 Next.js 网页界面、Streamlit 应用或 FastAPI REST API 与系统交互，这些接口负责文档上传、索引和查询过程。

Who it’s for

此工具面向希望拥有私密、本地 AI 助手进行文档分析的用户，也适用于想要参考使用 Ollama 和 LangChain 实现本地 RAG 流水线的开发者。

Highlights

  • 100% Local Processing: No data is sent to external servers.
  • Multiple Interfaces: Offers a modern Next.js frontend, a classic Streamlit UI, and a programmatic REST API.
  • Multi-PDF Support: Ability to upload and query across multiple documents simultaneously.
  • Advanced Retrieval: Features multi-query RAG with source citations and visibility into the AI's reasoning steps.