deepset-ai/haystack

何を解決するか

Haystack は、LLM アプリケーションをプロトタイプから本番環境に移行するための AI オーケストレーションフレームワークです。スケーラブルな検索拡張生成（RAG）システム、自律型エージェント、意味検索アプリケーションを構築するためのツールを提供し、データの取り扱いや処理方法について明示的な制御を維持します。

仕組み

このフレームワークは、パイプラインとエージェントワークフローに基づくモジュールアーキテクチャを使用しています。インデキシング、検索、ルーティング、生成のための組み込みコンポーネントを組み合わせたり、カスタムコンポーネントを作成したりできます。モデルやベンダーに依存せず、OpenAI、Anthropic、ローカルモデルなど、LLMを簡単に切り替えることができ、システム全体を再実装せずにインフラコンポーネントも交換可能です。また、ネイティブな非同期操作とトークンストリーミングもサポートしています。

対象ユーザー

深くカスタマイズが必要で、トレーサビリティを確保し、さまざまなモデルプロバイダー間でスケーラブルに展開できる本番環境向けAIシステムを構築したいPython開発者やAIエンジニア向けに設計されています。

主な特徴

• 本番環境対応エージェント: ガードレール用のライフサイクルフック、トークン使用量とコストのモニタリング、段階的なスキル発見用の SkillToolset を備えています。
• コンテキスト工学: モデルに到達する前に、情報の取得、ランク付け、フィルタリング、ルーティングの方法について明示的な制御が可能です。
• ベンダー非依存: Hugging Face、Google、Azure OpenAI、AWS Bedrockなど、幅広いプロバイダーと統合可能です。
• 拡張可能なエコシステム: 一貫したインターフェースを通じてカスタムコンポーネントの作成と共有が可能で、エコシステムを拡張できます。