deepset-ai/haystack

Open-source AI orchestration framework for building context-engineered, production-ready LLM applications. Design modular pipelines and agent workflows with explicit control over retrieval, routing, memory, and generation. Built for scalable agents, RAG, multimodal applications, semantic search, and conversational systems.

What it solves

Haystack 是一个 AI 编排框架，旨在构建可投入生产的 LLM 应用。它解决了检索、路由、记忆与生成的复杂性，提供透明且可扩展的方式，让开发者能够自信地从实验阶段转向部署阶段。

How it works

它使用模块化架构，开发者设计管道和代理工作流。这些管道由索引、检索和工具调用等组件组成，开发者可以通过循环、分支和条件逻辑自定义或扩展，以控制上下文在系统中的流动方式。

Who it’s for

它专为使用 Python 构建可扩展 RAG 系统、多模态应用、语义搜索、问答系统和自主代理的开发者而设计。

Highlights

Model- and vendor-agnostic: 支持广泛的供应商，包括 OpenAI、Mistral、Anthropic、Cohere、Hugging Face、Azure OpenAI 和 AWS Bedrock。
Context Engineering: 提供对信息检索、排序、过滤和路由的明确控制，直至进入模型前。
Modular Ecosystem: 提供内置的记忆和评估组件，并为社区贡献的扩展提供一致的接口。
Production-Ready: 可通过 Hayhooks 部署为 REST API 或 MCP 服务器。