StarTrail-org/LEANN

[MLsys2026]: RAG on Everything with LEANN. Enjoy 97% storage savings while running a fast, accurate, and 100% private RAG application on your personal device.

What it solves

LEANN は、個人向け AI システム向けに設計された軽量ベクトルデータベースです。従来のベクトルデータベースに伴う大容量ストレージの問題を解決し、ユーザーは高価なクラウドインフラを必要とせず、検索精度を犠牲にすることなく、ラップトップ上で数百万件のドキュメントをインデックス化・検索できます。

How it works

LEANN は graph-based selective recomputation(グラフベースの選択的再計算)と high-degree preserving pruning(高次数保持プルーニング)という手法を用います。テキストの数値表現である埋め込みベクトルをすべて保存するのではなく、オンデマンドで計算し、プルーニングされたグラフ構造でストレージオーバーヘッドを最小化します。HNSW や DiskANN など複数のバックエンドをサポートし、OpenAI 互換 API を介してさまざまな LLM や埋め込みプロバイダーと統合できます。

Who it’s for

プライベートでローカルな RAG(Retrieval‑Augmented Generation)システムを構築したい個人向けです。ファイルシステム、メール、ブラウザ履歴、チャットログ(WeChat、iMessage)やエージェントメモリ(ChatGPT、Claude)などの個人データをセマンティック検索でき、完全なプライバシーと低いハードウェア要件を保ちます。

Highlights

  • Extreme Storage Efficiency: Claims to use 97% less storage than traditional solutions (e.g., indexing 60 million chunks in 6GB instead of 201GB).
  • Privacy-First: Data remains local on the user's laptop with no cloud dependency.
  • Broad Data Integration: Supports PDFs, text files, Apple Mail, browser history, and live data via the Model Context Protocol (MCP).
  • Claude Code Compatible: Functions as a semantic search MCP service for Claude Code.
  • Multimodal Support: Includes ColQwen for visual and text retrieval from PDFs.