NVIDIA/cuvs

해결하는 문제

cuVS는 근사 최근접 이웃(ANN) 및 클러스터링을 위한 고성능 GPU 가속 구현을 제공합니다. NVIDIA GPU를 사용한 벡터 유사도 검색 프로세스를 간소화하며, 대규모 비정형 데이터 및 의미 검색 처리에 필수적입니다.

작동 방식

cuVS는 RAPIDS RAFT 라이브러리를 기반으로 구축되었으며, CAGRA와 같은 최신 알고리즘을 구현하여 밀집 벡터에 대한 인덱스 구축 및 검색을 수행합니다. Python, C++, C, Rust용 API를 제공하여 개발자가 이러한 GPU 가속 루틴을 데이터베이스, 머신러닝 파이프라인 또는 독립 실행형 애플리케이션에 통합할 수 있습니다.

대상 사용자

대규모 벡터 검색, 생성형 AI(RAG), 추천 시스템, 컴퓨터 비전, 그리고 k-NN 그래프 구축이나 클러스터링(예: K-means, HDBSCAN)과 같은 데이터 마이닝 작업을 수행하는 개발자 및 데이터 과학자.

주요 특징

• 다국어 지원: Python, C++, C, Rust용 네이티브 API.
• 고성능: 빠른 인덱스 구축, 저지연 검색, 높은 처리량에 최적화.
• 광범위한 응용: 텍스트, 오디오, 이미지, 분자 데이터의 의미 검색 지원.
• 상호 운용성: GPU에서 인덱스를 구축하고 CPU에서 배포 가능.
• 자동 최적화: 새로운 NVIDIA 아키텍처 및 CUDA 버전에 맞게 코드 업데이트.