amzn/pecos

何を解決するか

PECOS は、極めて大きな出力空間（最大1億件の候補）を持つ問題における高速な学習と推論の課題に対処します。これには、極端な多ラベルランク付け（XMR）や大規模な検索が含まれます。システムは、膨大な候補プールからわずか10〜100件の関連する出力を迅速に特定できます。

動作方法

PECOS は、大規模な出力空間を扱うための異なるアルゴリズム的手法を提供するモジュール式フレームワークです。

• X-Linear: ハイエラルキーなラベルツリーを再帰的に走査する線形モデルを使用し、ルートから葉ノードのクラスタへと移動して、上位k件の関連ラベルを特定します。
• XR-Transformer: 事前学習済みモデルを多スケールの目的関数上で再帰的に微調整するTransformerベースのフレームワークで、関連するラベルを生成するか、タスクに特化した埋め込みを作成します。
• ANN Search (HNSW): 近似最近傍探索に使用される Hierarchical Navigable Small World Graphs アルゴリズムを実装。SIMD最適化をサポートし、スパースおよび密度型の入力特徴を両方対応しています。

対象ユーザー

大規模な検索システム、極端な多ラベル分類タスク、および数百万もの潜在的な出力に対して高性能な推論を必要とするあらゆるアプリケーションに従事する開発者や研究者向けに設計されています。

特徴

• 最大1億件の候補を扱える出力空間をサポート。
• C++で実装された高速なリアルタイム推論を提供。
• XR-Transformerモジュールで Hugging Face Transformers と統合可能。
• ANN検索用にスレッドセーフなグラフ構築と並列推論を実装。