DrJonaC/Pensieve

해결하는 문제

AI 시스템은 시간이 지남에 따라 사용자 선호도와 습관에 대한 "작업 메모리"를 구축하는 경우가 많지만, 이 메모리는 일반적으로 사용자에게 숨겨져 있습니다. Pensieve는 이 구조화된 메모리를 보고 이해하고 제어할 수 있는 방법을 제공하여 사용자가 AI가 무엇을 기억하는지, 왜 특정 정보가 나타나는지를 관리할 수 있도록 합니다.

작동 방식

Pensieve는 AI 메모리 제공업체에 연결되는 호스트 불가지론적 대시보드 역할을 합니다. 우선순위 점수, 위험 수준 및 활성화 횟수와 같은 메타데이터가 포함된 구조화된 메모리 레코드를 읽어 사용자용 제어 인터페이스에 표시합니다. 사용자는 메모리 고정(pinning), 완화(softening, 중요도 낮추기) 또는 숨기기와 같은 거버넌스 작업을 적용할 수 있습니다. 이러한 결정은 거버넌스 보고서(Markdown)와 기계 판독 가능한 매니페스트(JSON)로 컴파일되며, 제공업체는 이를 메모리 스토어에 적용하여 AI의 향후 컨텍스트를 업데이트합니다.

대상 사용자

AI 에이전트 및 LLM 기반 시스템의 장기 메모리에 대해 투명성과 주도권을 원하는 사용자 및 개발자.

주요 특징

• 거버넌스 루프: 관찰, 사용자 결정 및 영수증을 통한 메모리 변경의 검증된 적용의 완전한 사이클.
• 호스트 불가지론적 아키텍처: 제공업체와 어댑터를 사용하는 모듈형 설계로 다양한 AI 호스트(예: Codex, Claude Code)와 함께 작동할 수 있습니다.
• 가역적 제어: 레코드를 단순히 삭제하는 대신 pin, soften, hide, restore 할 수 있는 메모리 관리 도구.
• 안전 모델: 민감한 정보에 대한 보호된 표시 계층과 변경 사항이 실제로 적용되었는지 확인하기 위한 검증 시스템을 포함합니다.