DrJonaC/Pensieve
Observe how memory shapes an answer. Pensieve is an interactive system for visualizing, interpreting, and managing how Large Language Models (LLMs) “remember” a user. It bridges the gap between model-level mechanisms and user-level understanding, making AI memory observable, explainable, and partially controllable.
解決する課題
AIシステムは時間の経過とともにユーザーの好みや習慣に関する「ワーキングメモリ」を構築することがよくありますが、このメモリは通常、ユーザーからは隠されています。Pensieveは、この構造化されたメモリを可視化、理解、制御する方法を提供し、ユーザーがAIが何を記憶しているか、なぜ特定の情報が表示されるのかを管理できるようにします。
仕組み
Pensieveは、AIメモリプロバイダーに接続するホストに依存しないダッシュボードとして機能します。優先度スコア、リスクレベル、アクティベーション回数などのメタデータを含む構造化メモリレコードを読み取り、ユーザー向けのコントロールサーフェスに表示します。ユーザーは、メモリのピン留め、ソフト化(重要度の低下)、または非表示などのガバナンスアクションを適用できます。これらの決定は、ガバナンスレポート(Markdown)とマシン読み取り可能なマニフェスト(JSON)にコンパイルされ、プロバイダーがメモリストアに適用してAIの将来のコンテキストを更新します。
対象者
AIエージェントやLLMベースのシステムの長期メモリに対して、透明性と主導権を求めるユーザーおよび開発者。
ハイライト
- ガバナンスループ: 観察、ユーザーの決定、およびレシートを介したメモリ変更の検証された適用の完全なサイクル。
- ホストに依存しないアーキテクチャ: プロバイダーとアダプターを使用したモジュール設計により、異なるAIホスト(例:Codex、Claude Code)との連携が可能。
- 可逆的なコントロール: レコードを単に削除するのではなく、
pin、soften、hide、restoreできるメモリ管理ツール。 - セーフティモデル: 機密情報のための保護された表示ティアと、変更が実際に適用されたことを確認するための検証システムを含む。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト