TencentDB-Agent-Memory: 기호적 오프로딩과 의미론적 피라미드를 통해 에이전트 토큰 사용량을 줄이는 계층형 메모리 시스템

TencentDB-Agent-Memory: 기호적 오프로딩과 의미론적 피라미드를 통해 에이전트 토큰 사용량을 줄이는 계층형 메모리 시스템

해결하는 문제

TencentDB Agent Memory는 AI 에이전트의 "context overload" 문제를 해결합니다. 기존의 에이전트는 모든 상호작용을 컨텍스트 창에 쌓아두거나(막대한 토큰 소비), 세부 사항을 파괴하는 손실이 있는 요약 방식을 사용합니다. 이 프로젝트는 에이전트가 반복을 피하거나 토큰을 낭비하지 않고 워크플로우, 사용자 선호도 및 작업 이력을 기억할 수 있는 구조화된 방법을 제공합니다.

작동 방식

이 시스템은 "평면적" 벡터 저장소에서 벗어나기 위해 계층형 아키텍처를 사용합니다:

  • Memory Layering: 정보를 의미론적 피라미드로 구성합니다. 장기 메모리는 원시 대화(L0)에서 원자적 사실(L1), 시나리오 블록(L2), 그리고 최종적으로 사용자 페르소나(L3)로 이동합니다. 이를 통해 에이전트는 일반적인 가이드를 위해 상위 수준의 페르소나를 사용하고, 특정 세부 사항이 필요한 경우에만 원시 데이터로 "drill down"할 수 있습니다.
  • Symbolic Short-Term Memory: 장황한 도구 로그(코드 또는 검색 결과와 같은)를 처리하기 위해, 시스템은 전체 텍스트를 외부 파일로 오프로딩하고 에이전트의 컨텍스트 내에서 이를 컴팩트한 Mermaid 심볼 그래프로 대체합니다. 에이전트는 필요한 경우 node_id를 사용하여 원래의 원시 텍스트를 검색할 수 있습니다.
  • Heterogeneous Storage: 원시 사실과 로그를 위해 데이터베이스를 사용하고(하위 계층), 페르소나와 장면을 위해 사람이 읽을 수 있는 Markdown 파일을 사용합니다(상위 계층).

대상 사용자

OpenClaw 또는 Hermes와 같은 프레임워크를 사용하여 장기적인 AI 에이전트를 구축하는 개발자로서, LLM 토큰 비용을 줄이면서 긴 세션 동안 일치하는 페르소나와 작업 상태를 유지해야 하는 사용자.

주요 특징

  • 상당한 토큰 감소: 특정 벤치마크에서 토큰 사용량을 최대 61.38%까지 줄입니다.
  • 정확도 향상: PersonaMem 정확도를 48%에서 76%로 높입니다.
  • 무손실 복구: 상위 수준의 추상화에서 원래의 원시 증거로 돌아가는 결정론적 경로를 유지합니다.
  • 통합 준비 완료: OpenClaw 및 Hermes 에이전트를 위한 플러그인을 제공합니다.

Sources