tonykipkemboi/ollama_pdf_rag

A full-stack demo showcasing a local RAG (Retrieval Augmented Generation) pipeline to chat with your PDFs.

What it solves

ローカル環境だけで PDF ドキュメントとチャットできるようにし、機密データがマシンから外部に出ることがありません。個人や企業のドキュメントに対して Retrieval Augmented Generation（RAG）を実行するために、高価またはプライバシー侵害の可能性があるクラウドサービスを利用する必要がある問題を解決します。

How it works

このアプリケーションは LangChain と ChromaDB が駆動するパイプラインを使用し、PDF をベクトル埋め込みに変換します。Ollama と統合して、ローカルで大規模言語モデル（LLM）および埋め込みモデルを実行します。ユーザーは Next.js のウェブインターフェース、Streamlit アプリ、または FastAPI REST API を通じてシステムとやり取りでき、ドキュメントのアップロード、インデックス作成、クエリ処理を行います。

Who it’s for

このツールは、ドキュメント分析のためにプライベートでローカルな AI アシスタントを求めるユーザー、そして Ollama と LangChain を用いたローカル RAG パイプラインのリファレンス実装を探している開発者向けに設計されています。

Highlights

  • 100% Local Processing: No data is sent to external servers.
  • Multiple Interfaces: Offers a modern Next.js frontend, a classic Streamlit UI, and a programmatic REST API.
  • Multi-PDF Support: Ability to upload and query across multiple documents simultaneously.
  • Advanced Retrieval: Features multi-query RAG with source citations and visibility into the AI's reasoning steps.