NVIDIA/cuvs

cuVS - a library for vector search and clustering on the GPU

What it solves

cuVS 简化了使用 GPU 进行高性能向量相似度搜索与聚类的流程。它解决了在大量由非结构化数据产生的多媒体嵌入（稠密向量）上，快速构建索引以及低延迟、高吞吐量搜索的需求，这对语义搜索与数据挖掘至关重要。

How it works

cuVS 基于 RAPIDS RAFT 库构建，提供最先进的 GPU 加速近似最近邻（ANN）与聚类算法实现。它允许用户构建索引（例如使用 CAGRA 算法），并支持多种语言执行搜索，包括 Python、C++、C 与 Rust。

Who it’s for

此库适用于从事生成式 AI、检索增强生成（RAG）、推荐系统、计算机视觉，以及数据挖掘任务（如 k-NN 图构建与可视化，例如 UMAP、t-SNE）的开发者和数据科学家。

Highlights

  • 快速的索引构建与高吞吐量搜索性能。
  • 支持多语言，包括 Python、C++、C 与 Rust。
  • 具备互操作性，可在 GPU 上构建索引并在 CPU 上部署。
  • 集成支持多种聚类和可视化算法，如 K-means 与 HDBSCAN。