endee-io/endee

解決的問題

Endee 為需要快速搜尋大量資料的 AI 應用提供高效率的檢索層。它解決了高效管理與查詢高維向量的問題，讓開發者能在不犧牲速度或控制權的情況下，實現語意搜尋、RAG 流水線以及 AI 代理的長期記憶。

運作方式

Endee 以 C++ 實作，並針對現代 CPU（支援 AVX2、AVX512、NEON 與 SVE2）進行最佳化。它作為一個搜尋與智慧平台運作，結合密集向量檢索與稀疏搜尋功能，以及載荷過濾，支援在需要語意意義與特定關鍵字精確度的場景下進行混合搜尋。它提供 HTTP API 用於管理索引與提供檢索工作負載，可透過本地建置或 Docker 部署。

適用對象

適用於建構 RAG 流水線、使用 LangChain 或 LlamaIndex 等框架的 AI 代理、推薦系統，以及任何需要低延遲、元資料感知向量檢索的應用團隊。

主要特色

• 混合檢索：支援密集與稀疏向量搜尋，提升相關性。
• 載荷過濾：可基於元資料實作結構化檢索邏輯。
• CPU 最佳化：針對多種 CPU 架構進行專門調校，最大化效能。
• 運維就緒：內建備份 API 與執行時可觀測性/記錄功能。