StarTrail-org/LEANN

[MLsys2026 Best Paper]: https://arxiv.org/abs/2506.08276. RAG on Everything with LEANN. Enjoy 97% storage savings while running a fast, accurate, and 100% private RAG application on your personal device.

何を解決するか

LEANN は、個人用ハードウェア上で高性能な検索拡張生成(RAG)を可能にする軽量なベクトルデータベースです。従来のベクトルデータベースにおける過剰なストレージ要件という問題を解決し、検索精度を損なうことなく、ラップトップ上で数百万のドキュメントをインデックス化できます。

動作方法

LEANN は、高次数保持型のプルーニングを用いたグラフベースの選択的再計算という技術を利用しています。すべてのデータに対して埋め込みを保存するのではなく、必要に応じて埋め込みをオンデマンドで計算します。また、スマートなグラフプルーニングと圧縮疎行列(CSR)形式を採用することで、グラフ自体のストレージオーバーヘッドを最小限に抑えています。

対象ユーザー

クラウドサービスや高価なハードウェアに依存せずに、個人のデータ(ファイルシステム、メール、ブラウザ履歴、チャットログ(WeChat、iMessage)、エージェントメモリ(ChatGPT、Claude)など)を対象に意味検索が可能なプライベートなローカルAIアシスタントを作成したい個人向けに開発されています。

主な特徴

  • 極めて高いストレージ効率: 伝統的なベクトルDBと比較して最大97%のストレージ削減(例:6000万のチャンクを6GBで、従来の201GB)
  • プライバシー最優先: ローカルマシン上で完全に動作し、データがデバイス外に流出することはありません。
  • 広範な統合: 多様なデータソースに対応し、Claude Code用の意味検索MCPサービスとしても完全互換です。
  • 柔軟なバックエンド: OllamaやLM Studioなどのローカルエンジン、およびクラウドAPIを含む、複数の埋め込みおよびLLMプロバイダーに対応しています。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト