kldhsh123/Afterglow

基于 RAG(免微调)从聊天记录唤起语气与回忆:让曾经对话的温度,延续为往后的陪伴。 | Zero-finetuning RAG to revive tone and memories from chat logs: Let the warmth of past conversations continue into companionship.

解决的问题

Afterglow 旨在通过使用真实的历史聊天记录,重现与特定人物聊天的感觉。它允许用户构建一个数字伴侣,模拟真实个体的性格、表达方式和共同记忆,而无需微调底层 LLM。

工作原理

该系统使用检索增强生成(RAG)管道,并结合人设管理。它通过一个管道处理导入的聊天记录(来自 QQ、微信和抖音等平台),该管道负责清理、分割和向量化文本。

主要组件包括:

  • 混合检索:一个五路向量召回系统,使用 RRF(倒数排名融合)检索相关的历史文本、图像摘要和实时记忆。
  • 人设与状态管理:维护人设卡片、昼夜(睡眠/清醒)档案和生活状态,以确保 AI 的回复在时间背景和人物习惯方面得体。
  • 离线分析:诸如 xuwen analyze 之类的工具,从聊天历史生成时间线和性格报告,进一步优化 AI 的行为。
  • OpenAI 兼容 API:后端提供 API,使系统能够连接到各种第三方客户端或机器人(例如 QQBot、WeiXinBot)。

目标用户

希望保留亲人或朋友的语言风格和记忆的个人,或希望基于真实交互数据创建高度个性化 AI 伴侣的用户。

亮点

  • 多源导入:支持多种聊天导出格式,包括来自多个社交平台的 JSON 和 JSONL。
  • 本地优先隐私:使用 LanceDB 进行向量和人设的本地存储,支持 PII 脱敏和离线模型服务。
  • 主动消息:包含一个引擎,可以根据分析出的性格特征和日程主动发起对话。
  • 记忆分层:区分真实人类历史、新用户消息和 AI 生成的回复,防止 AI 内容污染长期人设。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目