Knowhere – 非構造化ドキュメントをAIエージェント対応のメモリに変換

概要

Knowhereは、あらゆる種類の非構造化ファイル（PDF、PowerPoint、Word、画像、markdownなど）を取り込み、解析し、AIエージェントがクエリ可能な階層ネイティブなメモリグラフに保存するオープンソースのバックエンドです。

• デュアルトラック解析 – 信頼性の高いテキスト構造を保持するテキストトラックと、複雑なページ（スキャンされたPDFやスライドデッキなど）を理解するために視覚言語モデルを使用するビジョントラック。両トラックとも同じチャンクおよびメタデータスキーマを出力します。
• エージェント中立な検索 – システムは、アウトラインナビゲーション、構造フィルタ、完全一致/曖昧検索、フルページ読み取りツールを備えた単一のコーパスAPIを公開します。エージェントは、これらのツールをいつどのように呼び出すかを決定します。
• ドキュメント横断グラフ – 抽出されたエンティティ、テーブル、画像は関連ドキュメントをリンクするノードとなり、「ナレッジグラフスタイル」の検索を可能にします。
• 引用対応 – すべての結果は、ソースドキュメント、セクション、ページ番号、および視覚的証拠に紐付けられます。

なぜ重要なのか

従来のRAGパイプラインはドキュメントを独立したテキストチャンクに平坦化するため、階層、引用、視覚的コンテキストが失われます。Knowhereは元の構造を保持し、視覚的理解を追加することで、エージェントが以下を行えるようにします：

• 人間のようにドキュメントをナビゲートする（章 → セクション → ページ）。
• ページ番号と画像を含む正確な証拠を検索する。
• OCRだけでは困難な超長尺のPDFやスライドデッキを効率的に処理する。

コアコンポーネント（リポジトリの記述に基づく）

コンポーネント	役割
API (apps/api)	ファイルのアップロード、解析ジョブの開始、メモリグラフのクエリを行うHTTPエンドポイント。
Worker (apps/worker)	解析パイプライン（テキストまたはビジョン）を実行し、階層グラフを構築するバックグラウンドプロセッサ。
Dashboard (別リポジトリ)	コレクションの管理、解析済み階層の表示、検索テストを行うWeb UI。
セルフホストスタック (Docker-Compose)	API、Worker、Postgres、Redis、およびオプションのS3ストレージの迅速なローカルデプロイ。
SDKs (Python/Node)	統合を容易にするためのAPIをラップした軽量クライアントライブラリ。

開始方法（クイックスタート手順）

1. 依存関係のインストール – Python 3.11+、uv、Docker-Compose。
2. Pythonパッケージの同期：uv sync --all-packages。
3. 設定 – APIとWorkerの .env.example ファイルをコピーし、以下を入力します：
   • DB/Redis接続情報
   • S3互換ストレージの認証情報
   • 少なくとも1つのLLMプロバイダーキー（DeepSeek-Flash、OpenAI、Qwenなど）
   • ビジョントラック用のビジョンモデル認証情報。
4. スタックの起動：./deploy/local-dev/start-dev.sh（Postgres、Redis、LocalStackなどを起動）。
5. マイグレーションの実行を行い、別のターミナルでAPIとWorkerを起動します。
6. APIの使用 – V2 Jobsエンドポイント経由でドキュメントをアップロードします。システムは適切なトラックにルーティングし、階層を構築して検索可能にします。

AIエージェントの典型的なワークフロー

1. 取り込み – エージェントがKnowhere APIにファイルを送信します。
2. 解析 – Workerがテキストまたはビジョンパイプラインを実行し、出力を共通スキーマに正規化します。
3. 保存 – ノード（セクション、ページ、画像、テーブル）がメタデータ（パス、引用、エンティティ）と共に永続化されます。
4. 検索 – エージェントが検索APIを呼び出し、outline、search、read_pageなどのツールを使用してグラフを探索します。
5. 引用 – 結果には正確なソース参照が含まれ、信頼できる回答が可能になります。

READMEで強調されている注目機能

• 視覚的ページ理解 – 完璧なOCRは不要。VLMがページ全体を要約可能。
• 超長尺PDFサポート – 数百ページやアトラススタイルのドキュメントを処理。
• ドキュメント横断メモリグラフ – 型付きエンティティが名前空間を越えて関連ドキュメントをリンク。
• ベンチマーク – 内部テストでは、生のドキュメントベースラインと比較して、初回試行の精度が+36%、再現率が+11%向上。
• テレメトリ – 匿名化された使用データがPostHogに送信されます（環境変数でオプトアウト可能）。

想定されるユーザー

• 構造化され、引用可能なコンテキストを必要とするエージェント型RAGシステムを構築する開発者。
• 大規模な内部ドキュメントライブラリ（マニュアル、スライドデッキ、研究PDF）を持ち、検索可能なナレッジベースを求める企業。
• 再現可能なドキュメント解析パイプラインを必要とし、正確なページを引用したい研究者。

ライセンスとコミュニティ

• Apache 2.0ライセンス。
• アクティブなGitHub Discussions、Issueトラッカー、貢献ガイド。
• DockerイメージはGitHub Container Registryで公開。
• 本プロジェクトは2026年5月よりオープンソース化されており、迅速な試用のためのマネージドクラウド提供もあります。

---

上記の詳細はすべてリポジトリのREADMEから直接引用したものであり、追加の主張は含まれていません。