amzn/pecos

解决的问题

PECOS 解决了在极大规模输出空间（最多可达一亿个候选）问题中的快速学习与推理挑战，例如极端多标签排序（XMR）和大规模检索。它使系统能够从庞大的候选池中快速识别出少量相关输出（通常为10-100个）。

工作原理

PECOS 是一个模块化框架，提供多种算法方法来处理大规模输出空间：

• X-Linear：使用递归线性模型遍历层次化标签树，从根节点移动到叶节点簇，以找到前k个相关标签。
• XR-Transformer：基于 Transformer 的框架，通过在多分辨率目标上递归微调预训练模型，生成相关标签或创建任务感知嵌入。
• ANN Search (HNSW)：实现 Hierarchical Navigable Small World Graphs 算法用于近似最近邻搜索，支持稀疏和密集输入特征，并具备 SIMD 优化。

适用人群

专为从事大规模检索系统、极端多标签分类任务，以及任何需要在数百万潜在输出中实现高性能推理的应用的开发者和研究人员设计。

主要亮点

• 支持最多一亿个候选的输出空间。
• 提供基于 C++ 的快速实时推理实现。
• XR-Transformer 模块可与 Hugging Face Transformers 集成。
• 支持 ANN 搜索的线程安全图构建和并行推理。