NVIDIA/cuvs

cuVS - a library for vector search and clustering on the GPU

What it solves

cuVS 簡化了使用 GPU 進行高效能向量相似度搜尋與聚類的流程。它解決了在大量由非結構化資料產生的多媒體嵌入（稠密向量）上，快速建立索引以及低延遲、高吞吐量搜尋的需求，這對語意搜尋與資料探勘至關重要。

How it works

cuVS 基於 RAPIDS RAFT 函式庫構建，提供最先進的 GPU 加速近似最近鄰（ANN）與聚類演算法實作。它允許使用者建立索引（例如使用 CAGRA 演算法），並支援多種語言執行搜尋，包括 Python、C++、C 與 Rust。

Who it’s for

此函式庫適用於從事生成式 AI、檢索增強生成（RAG）、推薦系統、電腦視覺，以及資料探勘任務（如 k-NN 圖建構與視覺化，例如 UMAP、t-SNE）的開發者與資料科學家。

Highlights

快速的索引建構與高吞吐量搜尋效能。
支援多語言，包括 Python、C++、C 與 Rust。
具備互通性，可在 GPU 上建立索引並在 CPU 上部署。
整合支援多種聚類與視覺化演算法，如 K-means 與 HDBSCAN。