usemoss/moss

해결하는 문제

대부분의 AI 에이전트용 검색 스택은 원격 벡터 데이터베이스에 의존하여 200~500ms의 네트워크 라운드트립 지연을 유발합니다. 이 지연은 음성 봇이나 코파일럿과 같은 실시간 대화형 AI의 흐름을 방해하여 반응이 느리게 느껴지게 합니다.

작동 방식

Moss는 전통적인 데이터베이스가 아니라 검색 런타임입니다. 하이브리드 아키텍처로 구성되며, 세 가지 구성 요소로 나뉩니다:

1. Moss Cloud: 문서 인제스트, 임베딩, 저장 및 배포를 관리합니다.
2. Index: 문서와 벡터를 하나의 아티팩트로 패키징하여 클라우드에 저장합니다.
3. Runtime: Python, TypeScript, Elixir, C용 SDK로 애플리케이션에 직접 내장됩니다. 런타임은 HTTPS를 통해 인덱스를 다운로드하고 메모리에 보관하여 핫패스에서 네트워크 호프를 제거하고 애플리케이션 프로세스 내에서 쿼리를 로컬로 처리할 수 있게 합니다.

또한 웹 어셈블리 빌드를 제공하여 브라우저 내에서 완전히 세마틱 검색을 실행할 수 있습니다.

대상 사용자

실시간 대화형 AI 에이전트, 음성 봇, 코파일럿, 초저지연 검색이 필요한 오프라인 우선 애플리케이션을 개발하는 개발자들입니다.

주요 특징

• 초저지연: 검색을 프로세스 내에서 실행하여 임베딩을 포함한 쿼리 시간을 10ms 미만으로 달성합니다.
• 하이브리드 검색: 하나의 쿼리에서 세마틱 검색과 키워드 검색을 결합합니다.
• 내장 임베딩: 외부 API 키 없이도 기본 제공되는 임베딩 모델을 포함합니다.
• 브라우저 지원: WASM 기반 SDK를 통해 서버 없이 클라이언트 측에서 세마틱 검색을 수행할 수 있습니다.
• 광범위한 통합: LangChain, LlamaIndex, DSPy 및 다양한 음성 AI 플랫폼(Pipecat, Vapi, ElevenLabs)과 호환됩니다.