SeekStorm/SeekStorm

SeekStorm: vector & lexical search - in-process library & multi-tenancy server, in Rust.

何を解決するか

SeekStormは、ベクトル(意味的)検索とキーワード(語彙的)検索を組み合わせた高性能な検索ソリューションを提供します。単一のコンmodityサーバー上でミリ秒未満の検索遅延と高スループットを実現し、高価なクラスターや専用ハードウェアアクセラレータの必要性を排除しながら、数十億規模のインデックスをサポートします。

動作方法

SeekStormは、語彙検索用の逆インデックスとベクトル検索用のANN(近似最近傍)インデックスという、2つの独立したネイティブインデックスアーキテクチャを持つ「ツインコア」アーキテクチャを採用しています。統合されたクエリプランナーがこれらのエンジンを管理し、Reciprocal Rank Fusion(RRF)を用いて結果を統合することで、純粋な語彙検索、純粋なベクトル検索、またはハイブリッド検索を実行できます。Rustで実装されており、x86-64およびARMアーキテクチャのSIMDハードウェアアクセラレーションを活用しています。

対象ユーザー

高速でスケーラブルな検索エンジンが必要な開発者向けに設計されています。プロセス内ライブラリまたはマルチテナンシー・サーバーとして利用可能です。リアルタイム検索、複雑なフィルタリング、低尾遅延(P99)が重要な高並列環境を必要とするアプリケーションに特に適しています。

特徴

  • ハイブリッド検索: 1つのクエリプランナー下でベクトル検索エンジンと語彙検索エンジンをネイティブに統合。
  • 極めて高いパフォーマンス: ミリ秒未満の遅延と高速なインデックス化(ラップトップで最大35Kドキュメント/秒)。
  • 統合された推論: Model2Vecを用いてテキストフィールドから埋め込みを自動生成し、インデックス化可能。
  • リアルタイムインデックス化: セグメントマージなどのリソース集約的な処理を必要とせず、インデックス化直後に検索可能。
  • 高度な検索機能: ファセット検索、地理的近接検索、タイポ耐性、およびフレーズ検索用のN-gramインデックスをサポート。
  • マルチテナンシー・サーバー: RESTful API、APIキー管理、およびインデックス管理用の埋め込みWeb UIを備えています。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト