infiniflow/infinity

The AI-native database built for LLM applications, providing incredibly fast hybrid search of dense vector, sparse vector, tensor (multi-vector), and full-text.

What it solves

Infinity는 AI 네이티브 데이터베이스로, LLM 애플리케이션의 복잡한 데이터 검색 요구를 처리하도록 설계되었습니다. 의미 기반 벡터 검색과 키워드 매칭을 위한 전체 텍스트 검색 등 서로 다른 유형의 검색을 위해 여러 시스템을 별도로 운영해야 하는 문제를 하나의 고성능 엔진으로 통합함으로써 해결합니다.

How it works

Infinity는 하이브리드 검색을 위한 통합 시스템을 제공하여, 밀집 임베딩, 희소 임베딩, 텐서 및 전체 텍스트 검색을 필터링과 함께 결합할 수 있습니다. 외부 의존성이 없는 단일 바이너리 아키텍처를 사용해 배포가 간편합니다. AI 개발자는 Python 모듈로 직접 임베드하거나 Docker를 통해 별도 서버로 실행할 수 있습니다.

Who it’s for

이 프로젝트는 RAG(검색 증강 생성) 애플리케이션을 만드는 AI 개발자를 위해 구축되었습니다. 예시로는 대화형 AI, 코파일럿, 추천 시스템, 질의응답 시스템 등이 있습니다.

Highlights

  • Hybrid Search Capabilities: Supports dense and sparse embeddings, tensors, and full-text search in one place.
  • High Performance: Achieves sub-millisecond query latency on million-scale vector datasets and high QPS for full-text search.
  • Advanced Reranking: Includes support for various rerankers, including ColBERT, RRF, and weighted sum.
  • Easy Deployment: Offered as a single-binary architecture or a Docker image for rapid setup.