infiniflow/infinity

解決する課題

Infinity は、LLM アプリケーションの高性能検索ニーズに対応するために設計された AI ネイティブデータベースです。高密度・スパースベクトル、テンソル、全文など、異なるデータタイプを同時に迅速に検索するという課題を解決します。これは、高度な RAG（検索拡張生成）システムに不可欠です。

仕組み

Infinity は、Docker またはスタンドアロンバイナリとしてデプロイできる単一バイナリアーキテクチャを採用しています。直感的な Python API と HTTP API を提供し、開発者がデータを管理し、ハイブリッド検索を実行できるようにします。ColBERT、RRF、加重和など、検索結果を洗練するためのさまざまな再ランキング手法をサポートしています。

対象者

検索エンジン、レコメンダー、QA システム、対話型 AI、およびリッチなデータタイプの低遅延・高スループット検索を必要とするその他の RAG ベースのアプリケーションを構築する AI 開発者向けに設計されています。

ハイライト

• ハイブリッド検索：高密度埋め込み、スパース埋め込み、テンソル、全文検索をフィルタリングと組み合わせます。
• 高性能：100万規模のベクトルデータセットでサブミリ秒のクエリ遅延を実現し、全文検索で高い QPS を達成します。
• デプロイの容易さ：依存関係のない単一バイナリアーキテクチャで、Docker イメージまたは Python モジュールとして利用可能です。
• リッチなデータサポート：文字列、数値、ベクトル、構造化データを処理します。