TeleAI-UAGI/telemem

解決的問題

TeleMem 是一個為對話式 AI 提供穩定、長期且多模態記憶的代理記憶管理層。它解決了 AI 代理常見的問題，例如無法在長時間互動中維持一致的角色設定、高 token 成本，以及缺乏結構化方式來儲存與推理影片內容。

工作原理

TeleMem 使用角色感知的摘要、語義聚類與高效儲存的流程來管理資訊。它從對話中提取關鍵事實，並使用 LLM 將相似的記憶語義合併以減少衝突。對於文字，採用雙儲存系統：使用 FAISS 實現快速向量搜尋，使用 JSON 儲存人類可讀的元資料。對於影片，實作一個流程，提取畫面、產生字幕，並儲存在向量資料庫中，讓代理能對影片內容執行多步推理（ReAct 風格）。

適用對象

本專案適用於開發多角色虛擬代理系統、長記憶 AI 助手（如陪伴型 AI 或客服 AI），以及需要多模態能力進行影片理解與資訊檢索的代理的開發者。

主要亮點

• 角色專屬記憶：自動為不同角色建立隔離的記憶檔案，防止角色混淆。
• 多模態影片支援：提供完整的影片轉畫面與字幕的流程，支援基於向量的檢索與推理。
• Mem0 兼容：作為高性能量產的 Mem0 替代品，擁有相容的 API。
• 本地優先：支援使用 Qwen 和 FAISS 完全本地執行，確保資料隱私。
• 高性能量產：透過批次刷新優化寫入速度，相比基線模型具有更高的記憶準確率。