sopaco/cortex-mem

何を解決するか

Cortex Memory は、AIエージェントおよびLLMアプリケーション向けの高パフォーマンスで永続的な長期記憶フレームワークです。AIの「状態なし」特性を克服し、ユーザーの好み、履歴、特定の事実を複数のセッションにわたって記憶可能にすることで、ユーザーが情報を繰り返す必要がなくなり、よりパーソナライズされた体験を実現します。

動作方法

Rustで構築されたこのシステムは、耐久性を確保するための仮想ファイルシステム（cortex:// URIスキームを使用）と、ベクトルベースの意味的検索に用いるQdrantを組み合わせたハイブリッドストレージアーキテクチャを採用しています。LLMのコンテキストウィンドウの使用を最適化するため、三段階のメモリ階層を採用しています：

• L0（抽象）： 粗いスクリーニング（約100トークン）。
• L1（概要）： 構造化された要約と主要エンティティ（約500〜2000トークン）。
• L2（詳細）： 完全な会話内容（可変トークン数）。

自動パイプラインにより、LLMを用いて会話から構造化された記憶を抽出し、埋め込み表現でインデックス化し、イベント駆動型システムで管理します。このシステムには、エビングハウスの忘却曲線に基づく「忘却メカニズム」が含まれており、低強度の記憶を削除します。

対象ユーザー

• LLMを活用したチャットボットやエージェントを開発する開発者。
• パーソナライズされたAIアシスタントを開発するチーム。
• 永続的な記憶基盤を必要とするオープンソースプロジェクト。

特徴

• 三段階階層： 漸進的な公開（L0 → L1 → L2）によりトークン使用量を最適化。
• 仮想ファイルシステム： メモリをMarkdownファイルとして保存し、ポータビリティおよびバージョン管理との互換性を確保。
• 意味的検索： ユーザー、エージェント、セッションの次元でメタデータフィルタリングを伴う高パフォーマンスな類似性検索。
• マルチモーダルアクセス： REST API、CLI、MCPプロトコル、および直接のRustライブラリ統合をサポート。
• リソース効率： LLMの結果キャッシュを含み、重複するAPI呼び出しを50〜75％削減。
• 観測性： Svelte 5で構築されたWebダッシュボードにより、テナント管理とメモリの可視化が可能。