vectorize-io/hindsight

Hindsight: Agent Memory That Learns

What it solves

Hindsight는 단순한 대화 기록이나 기본 RAG를 넘어서는 것을 목표로 하는 에이전트 메모리 시스템입니다. 정보를 세계 사실, 개인 경험, 정신 모델로 조직함으로써 원시 텍스트 스니펫을 단순히 호출하는 것이 아니라 AI 에이전트가 시간에 따라 학습하고 진화할 수 있게 합니다.

How it works

Hindsight는 바이오모방 데이터 구조를 사용해 메모리를 세 가지 경로로 분류합니다: World(일반 사실), Experiences(에이전트 고유 이벤트), Mental Models(반성에서 도출된 통찰). 주요 작업은 다음 세 가지입니다:

  • Retain: LLM을 사용해 입력에서 엔터티, 관계, 시간 데이터를 추출하고 이를 검색 인덱스와 시계열로 정규화합니다.
  • Recall: 네 가지 병렬 검색 전략(시맨틱(벡터), 키워드(BM25), 그래프(인과/시간 링크), 시간(시간 범위))을 활용해 결과를 reciprocal rank fusion으로 병합하고 cross‑encoder로 재순위합니다.
  • Reflect: 기존 메모리를 분석해 새로운 관찰, 통찰 및 서로 다른 정보 조각 간의 깊은 연결을 생성합니다.

Who it’s for

이 시스템은 대화형 AI 에이전트와 자율 에이전트 개발자를 위해 설계되었습니다. 특히 "AI 직원"을 만들고, 개방형 작업을 처리하며, 사용자 피드백에 따라 행동을 조정하고 복잡한 워크플로를 자동화해야 하는 경우에 적합합니다.

Highlights

  • State-of-the-art performance: LongMemEval 벤치마크에서 높은 정확도를 달성.
  • Flexible Integration: 2줄 코드 LLM 래퍼, 전용 API/SDK(Python/Node.js), 서버 없는 배포를 위한 임베디드 모드 제공.
  • Multi-provider support: OpenAI, Anthropic, Gemini, Groq, Ollama, LM Studio 등과 호환.
  • Hybrid Retrieval: 벡터, 키워드, 그래프, 시간 검색을 결합해 정밀도를 높입니다.