vectorize-io/hindsight

Hindsight: Agent Memory That Learns

What it solves

Hindsight 是一個代理記憶系統，旨在超越單純的對話歷史或基本 RAG。它透過將資訊組織為世界事實、個人經驗與心智模型，而非僅僅回溯原始文字片段，讓 AI 代理能夠隨時間學習與演化。

How it works

Hindsight 使用仿生資料結構將記憶分類為三條路徑：World（一般事實）、Experiences（代理特定事件）與 Mental Models（從反思中獲得的洞見）。它提供三項主要操作：

  • Retain：使用 LLM 從輸入中抽取實體、關係與時間資料，並將其正規化為搜尋索引與時間序列。
  • Recall：採用四種平行檢索策略——語意（向量）、關鍵字（BM25）、圖譜（因果/時間連結）與時間（時間範圍）——透過 reciprocal rank fusion 合併結果，並以 cross‑encoder 重新排序。
  • Reflect：分析現有記憶，產生新觀察、洞見以及不同資訊片段之間的更深層連結。

Who it’s for

此系統為對話式 AI 代理與自主代理的開發者而建，特別是打造「AI 員工」的團隊，這類代理必須處理開放式任務、根據使用者回饋調整行為，並自動化複雜工作流程。

Highlights

  • State-of-the-art performance：在 LongMemEval 基準測試中取得高準確度。
  • Flexible Integration：提供兩行程式碼的 LLM 包裝器、專屬 API/SDK（Python/Node.js），以及無伺服器部署的嵌入模式。
  • Multi-provider support：相容 OpenAI、Anthropic、Gemini、Groq、Ollama、LM Studio 等多家供應商。
  • Hybrid Retrieval：結合向量、關鍵字、圖譜與時間搜尋，以提升精確度。