smaramwbc/statewave

해결하는 문제

Statewave는 AI 에이전트가 세션 간에 컨텍스트를 잃는 것을 방지하기 위해 내구성 있고 구조화된 메모리 런타임을 제공합니다. 취약하고 비구조적인 프롬프트 삽입이나 단순 벡터 데이터베이스 검색을 대체하여, 에이전트가 선호사항, 결정사항, 역사 등을 다양한 대화 간에 기억할 수 있도록 결정론적 시스템을 제공합니다.

작동 방식

Statewave는 "컴파일한 후 사용" 방식으로 애플리케이션과 함께 작동하는 인프라로 동작합니다:

1. 수집: 원시 이벤트(에피소드)가 추가 전용 형식으로 기록됩니다.
2. 컴파일: 이러한 에피소드는 신뢰도 점수와 출처를 포함한 타입 지정된 요약된 메모리로 처리됩니다.
3. 검색: 시스템은 필요에 따라 순위 매겨진, 토큰 제한이 있는 컨텍스트 번들을 조립합니다.
4. 관리: 주제의 타임라인을 검사하고 주제별로 데이터를 삭제할 수 있습니다.

이 과정은 동일성(idempotent)이므로, 동일한 주제에 대해 동일한 시점에 동일한 쿼리를 실행하면 항상 동일한 결과를 생성하며, 쿼리 시점 검색에서 흔히 발생하는 샘플링 노이즈를 제거합니다.

대상 사용자

다수의 세션에 걸쳐 사용자 고유의 데이터와 아키텍처적 결정을 기억해야 하는 AI 에이전트(예: 고객 지원 또는 장기 실행 코딩 에이전트)를 개발하는 개발자들입니다. 특정 챗봇 프레임워크에 종속되지 않도록 합니다.

주요 특징

• 출처 추적: 콘텐츠 해시된 수령증을 통해 모든 메모리가 원본 소스 에피소드로 추적 가능합니다.
• 결정론적 컨텍스트: 주제와 작업별로 일관된 토큰 제한된 번들을 제공합니다.
• 플러그인 가능한 컴파일러: 로컬 히ュ리스틱 컴파일러(정규식)와 LiteLLM를 통한 LLM 기반 컴파일러를 모두 지원합니다.
• 자체 호스팅: Postgres와 pgvector에서 실행되어 사용자가 스토리지 소유권을 확보하고 벤더 종속성을 피할 수 있습니다.
• 다중 테넌트 지원: 쿼리 스코프 기반 데이터 격리 및 데이터 주권을 위한 리전 핀닝을 지원합니다.
• 프레임워크 중립성: LangChain, CrewAI, AutoGen을 포함한 모든 AI 스택과 REST API 또는 SDK를 통해 통합 가능합니다.