qdrant/qdrant
Qdrant - High-performance, massive-scale Vector Database and Vector Search Engine for the next generation of AI. Also available in the cloud https://cloud.qdrant.io/
解決的問題
Qdrant 是一個可直接投入生產環境的向量相似性搜尋引擎與資料庫,專為儲存、搜尋與管理高維度向量(嵌入向量)及其相關的元資料(載荷)而設計。它讓開發者能超越簡單的關鍵字比對,透過基於語意的檢索,建構語意搜尋、推薦系統與影像搜尋等應用。
如何運作
以 Rust 編寫,確保高效率與可靠性,Qdrant 將資料儲存為「點」,每個點包含一個向量與一個 JSON 載荷。它支援多種向量類型——密集向量用於語意意義,稀疏向量用於全文搜尋,多向量則適用於像 ColBERT 這樣的複雜模型。為優化檢索效能,它使用 SIMD 硬體加速與 GPU 支援進行索引,而量化技術可將記憶體使用量降低高達 97%。
適用對象
專為開發神經網路或語意基礎匹配應用的 AI 工程師與開發者設計,例如電商產品分類、視覺搜尋引擎,以及需要長期記憶或高效資料檢索的 AI 代理。
主要特色
- 混合搜尋:使用如倒數排名融合(RRF)等融合策略,結合語意與關鍵字的精準度。
- 載荷過濾:可利用 JSON 元資料進行複雜的搜尋結果過濾,支援關鍵字比對與地理定位等條件。
- 分散式部署:透過分片與複製支援水平擴展,並支援零停機更新。
- Qdrant Edge:輕量版本,可內嵌於應用程式流程中,於邊緣裝置上提供低延遲、離線功能。
- 開發者工具:提供 Web UI 用於資料探索,並有官方客戶端程式庫支援 Go、Rust、JS/TS、Python、.NET 與 Java。
相關
- 專案
- 專案
- 專案
- 專案
- 專案