zjunlp/LightMem

[ICLR 2026] LightMem: Lightweight and Efficient Memory-Augmented Generation

What it solves

LightMem は、Large Language Models（LLMs）と AI エージェントに対して、軽量かつ効率的な長期メモリ管理システムを提供するよう設計されています。過剰な計算リソースや応答時間を消費せずに、ユーザーとのインタラクションやイベントの永続的で検索可能なメモリを維持する課題に対処します。

How it works

LightMem は、メモリの保存、取得、更新を扱うモジュラーアーキテクチャを使用します。プロセスはプラガブルなコンポーネントに分割されます：

  • Pre-compression & Segmentation：llmlingua-2 などのツールを使用して入力を圧縮し、トピックごとにテキストをセグメント化します。
  • Memory Management：さまざまな LLM バックエンド（OpenAI、DeepSeek、Ollama、vLLM）と統合してメモリ内容を管理します。
  • Indexing & Retrieval：FAISS、Qdrant、または BM25 を用いた埋め込みベースの検索により、ユーザークエリに基づいて関連メモリを見つけます。
  • Update Mechanism：オンラインおよびオフラインの更新をサポートし、メモリを最新の状態に保ちます。

Who it’s for

このフレームワークは、旅行プランニングエージェントやコードアシスタントなど、複数セッションにわたって長期メモリ機能が必要なインテリジェントアプリケーションを構築する開発者向けです。

Highlights

  • Modular Design：カスタムストレージエンジンや検索戦略をサポート。
  • Broad Compatibility：クラウド API（OpenAI、DeepSeek）とローカルモデル（Ollama、vLLM、Transformers）で動作。
  • MCP Server Support：Model Context Protocol と互換性があり、AI エコシステムへの統合が容易。
  • Efficient Performance：低リソース消費と高速応答を最適化。
  • Integrated Evaluation：Mem0 や LangMem など他のメモリ層とベンチマークできるベースライン評価フレームワークを含む。