jonfairbanks/local-rag

Ingest files for retrieval augmented generation (RAG) with open-source Large Language Models (LLMs), all without 3rd parties or sensitive data leaving your network.

What it solves

それは、完全にオフラインで検索強化生成（RAG）を実行する方法を提供します。これにより、チャット履歴、埋め込み、インデックス化されたソースコンテンツがユーザー自身のマシンまたはネットワーク上に残り、外部のクラウドサービスにデータを送信する必要がなくなります。

How it works

システムは LlamaIndex を使用してストリーミング RAG 応答を生成し、ローカルの Ollama モデルと統合してチャットと埋め込み生成の両方を行います。ローカルファイル、GitHub リポジトリ、ウェブサイトなど、さまざまなソースからデータを取り込み、検索用にインデックス化します。

Who it’s for

自分のハードウェア上でプライベートなオープンソース RAG システムを実行し、クラウドベースの AI に依存せずに自分の文書やデータと対話したいユーザー向けです。

Highlights

  • ローカル Ollama チャットと Hugging Face 埋め込みモデル
  • 複数の取り込みソースに対応：ローカルファイル、GitHub リポジトリ、ウェブサイト
  • LlamaIndex によるストリーミング応答
  • ブラウザローカルの設定永続化
  • チャット履歴のエクスポート
  • アップロード、URL、リポジトリ取り込みのための組み込みガードレール