endee-io/endee

解决的问题

Endee 为需要快速搜索大量数据的 AI 应用提供高性能的检索层。它解决了高效管理与查询高维向量的问题，使开发者能够在不牺牲速度或控制权的前提下，实现语义搜索、RAG 流水线以及 AI 代理的长期记忆。

工作原理

Endee 使用 C++ 实现，并针对现代 CPU（支持 AVX2、AVX512、NEON 和 SVE2）进行了优化。它作为一个搜索与智能平台运行，结合了密集向量检索与稀疏搜索能力以及负载过滤功能，支持在需要语义含义和特定关键词精度的场景下进行混合搜索。它通过 HTTP API 提供索引管理与检索工作负载服务，可通过本地构建或 Docker 部署。

适用人群

适用于构建 RAG 流水线、使用 LangChain 或 LlamaIndex 等框架的 AI 代理、推荐系统，以及任何需要低延迟、元数据感知向量检索的应用团队。

主要亮点

• 混合检索：支持密集向量和稀疏向量搜索，提升相关性。
• 负载过滤：基于元数据实现结构化检索逻辑。
• CPU 优化：针对多种 CPU 架构进行专门调优，最大化性能。
• 运维就绪：内置备份 API 与运行时可观测性/日志功能。