deepset-ai/haystack

Open-source AI orchestration framework for building context-engineered, production-ready LLM applications. Design modular pipelines and agent workflows with explicit control over retrieval, routing, memory, and generation. Built for scalable agents, RAG, multimodal applications, semantic search, and conversational systems.

What it solves

Haystack은 프로덕션 수준의 LLM 애플리케이션을 구축하도록 설계된 AI 오케스트레이션 프레임워크입니다. 검색, 라우팅, 메모리, 생성의 복잡성을 투명하고 확장 가능한 방식으로 해결하여 개발자가 실험 단계에서 배포 단계로 자신 있게 전환할 수 있도록 합니다.

How it works

모듈식 아키텍처를 사용하여 개발자는 파이프라인과 에이전트 워크플로를 설계합니다. 이러한 파이프라인은 인덱싱, 검색, 도구 호출을 위한 컴포넌트로 구성되며, 루프, 분기, 조건 로직을 통해 맞춤화하거나 확장하여 컨텍스트가 시스템을 통해 흐르는 방식을 제어할 수 있습니다.

Who it’s for

Python 개발자를 위해 설계되었으며, 확장 가능한 RAG 시스템, 멀티모달 애플리케이션, 의미 검색, 질문 응답 시스템 및 자율 에이전트를 구축하는 데 적합합니다.

Highlights

Model- and vendor-agnostic: OpenAI, Mistral, Anthropic, Cohere, Hugging Face, Azure OpenAI, AWS Bedrock 등 다양한 공급자를 지원합니다.
Context Engineering: 정보가 모델에 도달하기 전에 검색, 순위 지정, 필터링 및 라우팅을 명시적으로 제어합니다.
Modular Ecosystem: 메모리와 평가를 위한 내장 컴포넌트를 제공하며, 커뮤니티가 기여한 확장 기능에도 일관된 인터페이스를 제공합니다.
Production-Ready: Hayhooks를 통해 REST API 또는 MCP 서버로 배포할 수 있습니다.