NVIDIA/cuvs

cuVS - a library for vector search and clustering on the GPU

解决的问题

cuVS 提供高性能、GPU 加速的近似最近邻(ANN)与聚类算法实现。它简化了使用 NVIDIA GPU 执行向量相似度搜索的流程,这对于处理大规模非结构化数据与语义搜索至关重要。

运作方式

cuVS 构建于 RAPIDS RAFT 库之上,实现了最先进的算法(如 CAGRA)来建立索引并在稠密向量上执行搜索。它提供 Python、C++、C 与 Rust 的 API,让开发者能将这些 GPU 加速的例程集成到数据库、机器学习管道或独立应用中。

适用对象

处理大规模向量搜索、生成式 AI(RAG)、推荐系统、计算机视觉,以及数据挖掘任务(如 k-NN 图构建或聚类,例如 K-means、HDBSCAN)的开发者和数据科学家。

重点特色

  • 多语言支持:提供 Python、C++、C 与 Rust 的原生 API。
  • 高性能:针对快速索引构建、低延迟搜索与高吞吐量进行优化。
  • 广泛应用:支持文本、音频、图像与分子数据的语义搜索。
  • 互操作性:可在 GPU 上建立索引,并在 CPU 上部署。
  • 自动优化:持续更新代码以支持新的 NVIDIA 架构与 CUDA 版本。

相关

  • 项目
  • 项目
  • 项目
  • 项目