ruvnet/RuVector

해결하는 문제

RuVector는 AI 에이전트의 메모리와 의사결정을 위한 고속이고 로컬 우선의 기반을 제공합니다. 기본적인 의미적 검색을 위해 외부 데이터베이스 서버나 API 키가 필요 없으며, 에이전트가 세션 간에 지속적인 메모리를 유지하고, 전체 대규모 언어 모델(LLM)을 모든 작업마다 호출하지 않고도 빠르고 타입이 지정된 결정을 내릴 수 있게 합니다.

작동 방식

RuVector는 벡터 임베딩과 저장을 처리하기 위해 Rust 네이티브 코어를 사용합니다. ONNX를 통해 로컬 의미 임베딩과 지속적인 벡터 검색을 지원합니다. 시스템은 에이전트가 이벤트를 캡처하고, 이를 벡터로 지속적으로 저장하며, 유사성 또는 그래프 관계를 통해 다시 불러오고, 그 결과를 기록하여 미래 행동을 적응시키는 '메모리 루프'를 중심으로 구성됩니다. 작업 메모리, 에피소딕 메모리, 의미 메모리, 절차적 메모리, 인과 메모리 등 다양한 메모리 유형을 제공하며, 압축(양자화), 시간 감쇠(최근 메모리 우선), 그래프 기반 재구성 등의 도구도 제공합니다.

대상 사용자

저지연 로컬 메모리가 필요한 AI 에이전트를 개발하는 개발자, Node.js 또는 Rust 애플리케이션에 내장된 지속성을 원하는 개발자, 호스팅된 벡터 데이터베이스에 의존하지 않고 복잡한 메모리 아키텍처(예: Reflexion 또는 다단계 지식 그래프)를 구축하고자 하는 개발자에게 적합합니다.

주요 특징

• 로컬 우선 실행: ONNX를 사용해 로컬에서 의미 임베딩과 벡터 검색을 수행하여 지연 시간과 API 비용을 줄입니다.
• 타입 지정된 의사결정 엔진: 의도 분류와 같은 제한된 작업에 특화된 도구로, 전체 LLM보다 빠르게 신뢰도와 회피 정보(abstention)를 반환합니다.
• 포괄적인 메모리 유형: 에피소딕, 절차적, 인과/그래프 메모리 등 다양한 메모리 구조를 지원합니다.
• 확장 가능한 지속성: 로컬 파일 기반 VectorDB, PostgreSQL 확장, 브라우저 기반 WASM 저장소 등 다양한 저장 백엔드를 제공합니다.
• 인과적 및 관계형 메모리: 명시적 관계와 다단계 재검색을 위한 그래프 및 하이퍼그래프 저장소를 포함합니다.
• 변조 탐지 가능한 연대기: 해시 링크 기록과 증거 로그를 사용해 메모리의 무결성을 보장합니다.