NVIDIA/cuvs
cuVS - a library for vector search and clustering on the GPU
解决的问题
cuVS 提供高性能、GPU 加速的近似最近邻(ANN)与聚类算法实现。它简化了使用 NVIDIA GPU 执行向量相似度搜索的流程,这对于处理大规模非结构化数据与语义搜索至关重要。
运作方式
cuVS 构建于 RAPIDS RAFT 库之上,实现了最先进的算法(如 CAGRA)来建立索引并在稠密向量上执行搜索。它提供 Python、C++、C 与 Rust 的 API,让开发者能将这些 GPU 加速的例程集成到数据库、机器学习管道或独立应用中。
适用对象
处理大规模向量搜索、生成式 AI(RAG)、推荐系统、计算机视觉,以及数据挖掘任务(如 k-NN 图构建或聚类,例如 K-means、HDBSCAN)的开发者和数据科学家。
重点特色
- 多语言支持:提供 Python、C++、C 与 Rust 的原生 API。
- 高性能:针对快速索引构建、低延迟搜索与高吞吐量进行优化。
- 广泛应用:支持文本、音频、图像与分子数据的语义搜索。
- 互操作性:可在 GPU 上建立索引,并在 CPU 上部署。
- 自动优化:持续更新代码以支持新的 NVIDIA 架构与 CUDA 版本。
相关
- 项目
- 项目
- 项目
- 项目