stephenschoettler/hermes-lcm

何を解決するか

hermes-lcm は Hermes Agent 用のロスレス・コンテキスト管理プラグインです。古い会話の一部が要約され、元の詳細がモデルのアクティブなプロンプトから削除される「ロスリー」なコンテキスト圧縮の問題を解決します。これにより、情報が永久に失われることはありません。エージェントは限定されたアクティブコンテキストウィンドウを維持しつつ、会話の完全な生の履歴を保持し、正確な復元が可能になります。

動作方法

単純なワンショット圧縮ではなく、階層的なメモリアプローチを使用します：

1. SQLiteストレージ：すべての生のメッセージは、フルテキスト検索（FTS）メタデータを備えたローカルSQLiteデータベースに永続化されます。
2. 要約DAG：コンテキストが拡大すると、古いメッセージは「深さに配慮した」要約ノードに圧縮されます。これらの要約はさらに、有向非巡回グラフ（DAG）に凝縮され、要約の階層構造が作られます。
3. 限定されたアクティブコンテキスト：アクティブプロンプトは、システムプロンプト、DAGから抽出された最も価値の高い要約、および最新のメッセージの保護された「新鮮な末尾」から構成されます。
4. リカバリーツール：lcm_grep、lcm_recall、lcm_expand などのツール群が提供され、詳細な情報が必要な際に正確な生のメッセージや特定の要約ノードを検索・確認・取得できます。

対象ユーザー

Hermes Agent を使用し、AIエージェントが「無限の記憶力」を持つ必要があるユーザー。つまり、非常に長い会話や複数のセッションからの正確な詳細を記憶できるが、LLMのコンテキストウィンドウに不要なデータが溢れないようにする必要があるユーザーです。

特徴

• ロスレスアーキテクチャ：要約が何回行われても、生のメッセージはSQLiteに常に保存されます。
• 階層的要約：DAGを使用して要約を整理し、エージェントが高レベルの概要から特定の詳細まで掘り下げられるようにします。
• 包括的なツールセット：検索、リカバリ、拡張、メモリ状態の診断に特化した15種類のツールを備えています。
• ソース意識のリカバリ：ラインレージを維持し、特定の要約に寄与した生のメッセージを正確に特定できます。
• 高度なメモリ機能：セマンティック検索（埋め込み）、時系列メモリ（時間ベースの集計）、および巨大なペイロードの外部化により、プロンプトの混雑を防ぐオプション機能をサポートしています。