TeleAI-UAGI/telemem

해결하는 문제

TeleMem은 AI 에이전트가 복잡한 다중 턴 상호작용에서 일관된 장기 메모리를 유지해야 하는 필요성을 해결합니다. 특히 다중 캐릭터 환경에서의 '메모리 혼동' 문제를 해결하고, 표준 메모리 시스템이 처리하기 어려운 비디오와 같은 멀티모달 콘텐츠를 에이전트가 저장하고 추론할 수 있는 방법을 제공합니다.

작동 방식

TeleMem은 AI 에이전트와 스토리지 사이에 위치하는 메모리 관리 계층으로 작동합니다. 캐릭터 인식 요약, 유사한 메모리를 병합하는 의미론적 클러스터링, 효율적인 배치 쓰기를 포함하는 파이프라인을 사용하여 들어오는 대화를 처리합니다. 데이터는 이중 시스템 방식으로 저장됩니다: 빠른 벡터 검색을 위한 FAISS와 사람이 읽을 수 있는 메타데이터를 위한 JSON입니다. 비디오의 경우 프레임을 추출하고 캡션을 생성하여 검색 가능한 벡터 데이터베이스를 구축함으로써 에이전트가 비디오 콘텐츠에 대해 다단계 추론을 수행할 수 있게 합니다.

대상 사용자

가상 에이전트, AI 컴패니언, NPC 또는 개인화된 장기 메모리가 필요한 고객 서비스 봇을 구축하는 개발자를 위해 설계되었습니다. 또한 기존 메모리 시스템의 고성능 드롭인 대체품이 필요하거나 개인 정보 보호를 위해 메모리 인프라를 완전히 로컬에서 실행하려는 사용자에게도 적합합니다.

주요 특징

• 드롭인 호환성: 한 줄의 코드로 Mem0의 고성능 대체품으로 작동합니다.
• 캐릭터 인식: 서로 다른 캐릭터에 대해 분리되고 독립적인 메모리 프로필을 자동으로 구축하여 데이터 혼합을 방지합니다.
• 멀티모달 지원: ReAct 스타일의 다단계 QA를 사용하여 비디오 콘텐츠를 처리, 저장 및 추론하는 완전한 파이프라인을 포함합니다.
• 로컬 우선: 클라우드 의존성 없이 자체 하드웨어에서 완전히 실행할 수 있습니다(Qwen 및 FAISS 사용).
• 성능 최적화: 배치 플러시 및 동시성을 통해 표준 스트리밍 방식보다 쓰기 속도가 2~3배 빠릅니다.