kldhsh123/Afterglow

해결하는 문제

Afterglow는 실제 과거 채팅 로그를 사용하여 특정 인물과 채팅하는 느낌을 재현하도록 설계되었습니다. 사용자는 기본 LLM을 미세 조정할 필요 없이 실제 개인의 성격, 표현 스타일, 공유된 기억을 모방하는 디지털 컴패니언을 구축할 수 있습니다.

작동 방식

이 시스템은 페르소나 관리와 결합된 RAG(Retrieval-Augmented Generation) 파이프라인을 사용합니다. 가져온 채팅 로그(QQ, WeChat, Douyin과 같은 플랫폼에서)를 텍스트를 정리, 분할, 벡터화하는 파이프라인을 통해 처리합니다.

주요 구성 요소는 다음과 같습니다.

• 하이브리드 검색: RRF(Reciprocal Rank Fusion)를 사용하여 관련 과거 텍스트, 이미지 요약, 라이브 메모리를 검색하는 5방향 벡터 호출 시스템.
• 페르소나 및 상태 관리: 페르소나 카드, 일주기(수면/각성) 프로필, 생활 상태를 유지하여 AI 응답이 시간대와 개인의 습관에 맞게 상황에 적절하도록 보장합니다.
• 오프라인 분석: xuwen analyze와 같은 도구는 채팅 기록에서 타임라인과 성격 보고서를 생성하여 AI 동작을 더욱 정교하게 만듭니다.
• OpenAI 호환 API: 백엔드는 시스템을 다양한 타사 클라이언트나 봇(예: QQBot, WeiXinBot)에 연결할 수 있는 API를 제공합니다.

대상 사용자

사랑하는 사람이나 친구의 언어 스타일과 기억을 보존하려는 개인, 또는 실제 상호 작용 데이터를 기반으로 고도로 개인화된 AI 컴패니언을 만들고자 하는 사람.

주요 특징

• 다중 소스 가져오기: 여러 소셜 플랫폼의 JSON 및 JSONL을 포함한 다양한 채팅 내보내기 형식을 지원합니다.
• 로컬 우선 개인 정보 보호: LanceDB를 사용하여 벡터와 페르소나를 로컬에 저장하고 PII 편집 및 오프라인 모델 서비스를 지원합니다.
• 능동적 메시징: 분석된 성격 특성과 일정에 따라 대화를 시작할 수 있는 엔진이 포함되어 있습니다.
• 메모리 계층화: 실제 인간 기록, 새 사용자 메시지, AI 생성 응답을 구분하여 AI 콘텐츠가 장기 페르소나를 오염시키는 것을 방지합니다.