ggozad/haiku.rag

Opinionated agentic RAG powered by LanceDB, Pydantic AI, and Docling

解決する課題

Haiku RAGは、ドキュメントから情報を取得するための包括的なシステムを提供し、ユーザーがデータに対して質問を行ったり、複雑な分析を実行したりすることを可能にします。ドキュメントをインデックス化し、最も関連性の高いテキストや画像のチャンクを検索して、元のソース資料への引用を提供することで、LLMのコンテキストウィンドウの制限という問題を解決します。

仕組み

このシステムは、ベクトル検索と全文検索（ハイブリッド検索）をReciprocal Rank Fusionと組み合わせて使用し、関連するコンテンツを見つけます。ドキュメント構造の認識にはDoclingを、ローカルファーストの埋め込みストレージにはLanceDBを統合しています。高度なクエリに対しては、ビジョン対応モデルを使用してドキュメント内の画像を分析し、サンドボックス化されたPython環境を使用して、集計や計算などの分析タスクのためのコードを実行します。

対象者

マルチモーダル検索（テキストと画像）、ローカルファーストのストレージ、およびModel Context Protocol (MCP) を介したAIアシスタントとの統合をサポートする、プロダクション環境向けのRAGシステムを必要とする開発者や研究者。

ハイライト

  • マルチモーダル検索: 画像を見つけるためのテキストクエリ、および検索のための画像クエリをサポート。
  • エージェント機能: 複雑な分析タスクのためのサンドボックス化されたPython環境と、マルチターン対話メモリを含む。
  • プロダクション用インジェスター: S3、HTTP、およびローカルファイルシステムからの継続的なインデックス作成のために、永続的なキューとワーカープールを備えた長時間稼働サービス。
  • 拡張可能なプロバイダーサポート: Ollama、OpenAI、vLLMを含む複数の埋め込みおよびQAプロバイダーと互換性があります。
  • ビジュアルグラウンディング: ユーザーが検証のために、元のページ画像上でハイライトされたチャンクを表示できるようにします。