hindsight: 무엇인지, 어떤 문제를 해결하는지 & 왜 인기를 얻고 있는지

hindsight: 무엇인지, 어떤 문제를 해결하는지 & 왜 인기를 얻고 있는지

해결하는 문제

Hindsight는 단순한 대화 기록이나 기본적인 RAG를 넘어설 수 있도록 설계된 에이전트 메모리 시스템입니다. 정보를 세계 사실(world facts), 개인적 경험(personal experiences), 그리고 멘탈 모델(mental models)로 조직화하여 AI 에이전트가 실제로 시간이 지남에 따라 학습할 수 있도록 하며, 이를 통해 장기 기억 작업에서 더 나은 성능을 발휘하고 사용자 피드백을 기반으로 행동을 조정할 수 있게 합니다.

작동 방식

Hindsight는 생체 모방 데이터 구조를 사용하여 메모리를 "banks"로 조직화합니다. Retain 작업을 통해 정보가 추가되면, LLM이 사실, 엔티티, 그리고 시간 데이터를 추출하고, 이를 정규화된 표준 표현으로 변환합니다.

정보를 검색하기 위해, Recall 작업은 네 가지 병렬 전략—시맨틱(vector), 키워드(BM25), 그래프(entity/causal links), 그리고 시간적(time range) 전략—을 실행하며, reciprocal rank fusion과 cross-encoder reranker를 사용하여 결과를 병합합니다.

마지막으로, Reflect 작업은 에이전트가 기존 메모리를 분석하여 새로운 통찰력을 얻고 더 깊은 이해를 생성할 수 있도록 합니다.

대상 사용자

이 시스템은 개방형 작업을 처리하고, 사용자별로 상호작용을 개인화하며, 경험으로부터 학습하여 복잡한 업무를 자동화해야 하는 AI 직원과 같은 대화형 AI 에이전트 및 자율 에이전트를 개발하는 개발자를 위해 구축되었습니다.

주요 특징

  • 다중 전략 검색: 더 높은 정확도를 위해 vector, keyword, graph, 그리고 temporal search를 결합합니다.
  • 생체 모방 메모리 모델: 데이터를 World facts, Experiences, 그리고 Mental Models로 분류합니다.
  • 쉬운 통합: 2줄의 코드로 통합할 수 있는 LLM wrapper를 제공하거나, 더 세밀한 제어를 위해 전용 SDK/API를 제공합니다.
  • 광광한 LLM 지원: OpenAI, Anthropic, Gemini, Groq, Ollama 등을 포함한 다양한 제공업체와 호환됩니다.

Sources