redis/agent-memory-server

해결하는 문제

LLM 프롬프트에서 전체 대화 기록을 사용할 때의 확장성 및 비용 문제를 해결합니다. 큰 프롬프트는 비용이 많이 들고 느리며, 제한된 컨텍스트 창으로 인해 정확도가 저하될 수 있어 에이전트가 프롬프트 크기를 늘리지 않고 과거 세션의 정보를 회상하기 어렵게 만듭니다.

작동 방식

Redis Agent Memory는 2계층 메모리 모델을 사용합니다:

• 세션 메모리: 구성 가능한 TTL(유효 기간)로 활성 대화 상태를 유지합니다.
• 장기 메모리: 과거 세션에서 추출한 사실을 텍스트 및 벡터 임베딩으로 저장하여 검색에 사용합니다.

정보는 백그라운드에서 세션 메모리에서 장기 메모리로 자동 승격되어, 에이전트가 실시간 상호작용 루프를 늦추지 않고 지식을 축적할 수 있습니다.

대상

여러 사용자 세션에 걸쳐 사실, 이벤트 및 선호도를 영구적으로 회상해야 하는 AI 에이전트를 구축하는 개발자.

주요 특징

• 2계층 아키텍처: 즉각적인 세션 상태와 장기 사실 저장을 분리합니다.
• 백그라운드 추출: 중요한 정보를 자동으로 장기 메모리로 승격합니다.
• 벡터 기반 검색: 임베딩을 사용하여 이전 상호작용에서 관련 사실을 회상합니다.
• SDK 및 API: Python 및 TypeScript SDK와 REST API를 제공하여 통합을 용이하게 합니다.