deepset-ai/haystack

Open-source AI orchestration framework for building context-engineered, production-ready LLM applications. Design modular pipelines and agent workflows with explicit control over retrieval, routing, memory, and generation. Built for scalable agents, RAG, multimodal applications, semantic search, and conversational systems.

What it solves

Haystack は本番環境向け LLM アプリケーションを構築するために設計された AI オーケストレーションフレームワークです。検索、ルーティング、メモリ、生成の複雑さを透明かつスケーラブルに管理し、開発者が実験からデプロイへ自信を持って移行できるようにします。

How it works

モジュラーアーキテクチャを採用しており、開発者はパイプラインやエージェントワークフローを設計します。これらのパイプラインはインデックス作成、検索、ツール呼び出しのコンポーネントで構成され、ループ、ブランチ、条件ロジックでカスタマイズや拡張が可能です。コンテキストがシステム内をどのように流れるかを制御できます。

Who it’s for

Python 開発者で、スケーラブルな RAG システム、マルチモーダルアプリケーション、セマンティック検索、質問応答システム、自律エージェントを構築したい方を対象としています。

Highlights

  • Model- and vendor-agnostic: OpenAI、Mistral、Anthropic、Cohere、Hugging Face、Azure OpenAI、AWS Bedrock など、幅広いプロバイダーをサポート。
  • Context Engineering: 情報がモデルに届く前に、取得、ランク付け、フィルタリング、ルーティングを明示的に制御できます。
  • Modular Ecosystem: メモリや評価用の組み込みコンポーネントを提供し、コミュニティ貢献の拡張機能にも一貫したインターフェースを提供。
  • Production-Ready: Hayhooks を通じて REST API または MCP サーバーとしてデプロイ可能です。