neuml/txtai

解决的问题

txtai 是一个全功能 AI 框架，旨在简化语义搜索、LLM 编排和语言模型工作流的创建。它消除了拼凑分散的远程服务的需要，为 LLM 应用提供统一的向量搜索和知识源基础架构。

工作原理

该框架围绕一个嵌入式数据库构建，该数据库结合了向量索引（稀疏和密集型）、图网络和关系型数据库。这一基础架构支持多个关键组件：

• 流水线： 用于问答、转录、翻译和摘要等任务的语言模型驱动流程。
• 工作流： 将流水线连接起来，将业务逻辑聚合为微服务或多模型工作流的系统。
• 智能体： 基于 smolagents 框架构建的自主实体，连接嵌入、流水线和工作流以解决复杂问题。
• 嵌入： 支持对文本、文档、音频、图像和视频创建嵌入。

适用人群

希望构建语义搜索引擎、RAG（检索增强生成）系统和自主智能体等 AI 应用，而无需管理多个独立的 AI 工具和数据库的开发者。

主要亮点

• 多模态索引： 支持在文本、音频、图像和视频之间进行向量搜索。
• RAG 支持： 内置检索增强生成功能，可减少 LLM 的幻觉问题。
• 可扩展 API： 提供 Web 和模型上下文协议（MCP）API，支持 JavaScript、Java、Rust 和 Go 的绑定。
• 本地执行： 可在本地运行，避免将数据发送到远程服务。
• 广泛模型兼容性： 支持 Hugging Face Transformers、Sentence Transformers，并与 llama.cpp 和 LiteLLM 集成。