amzn/pecos

해결하는 문제

PECOS는 극도로 큰 출력 공간(최대 1억 개의 후보)을 가진 문제, 예를 들어 극단적 다중 레이블 랭킹(XMR) 및 대규모 검색에서 빠른 학습과 추론의 과제를 해결합니다. 이 시스템은 거대한 후보 풀에서 일반적으로 10~100개의 관련 출력을 빠르게 식별할 수 있습니다.

작동 방식

PECOS는 대규모 출력 공간을 다루기 위한 다양한 알고리즘적 접근 방식을 제공하는 모듈식 프레임워크입니다.

• X-Linear: 계층적 레이블 트리를 재귀적으로 탐색하는 선형 모델을 사용하여 루트에서 리프 노드 클러스터로 이동하며 상위-k개의 관련 레이블을 찾습니다.
• XR-Transformer: 사전 학습된 모델을 다중 해상도 목적 함수에서 재귀적으로 미세 조정하여 관련 레이블을 생성하거나 작업 지향 임베딩을 생성하는 Transformer 기반 프레임워크입니다.
• ANN Search (HNSW): 근사 근접 이웃 검색을 위한 Hierarchical Navigable Small World Graphs 알고리즘을 구현하며, SIMD 최적화를 지원하고 스파스 및 밀집 입력 특징 모두를 지원합니다.

대상 사용자

대규모 검색 시스템, 극단적 다중 레이블 분류 작업, 수백만 개의 가능한 출력에 대해 고성능 추론이 필요한 모든 응용 분야에서 일하는 개발자 및 연구자에게 적합합니다.

주요 특징

• 최대 1억 개의 후보를 포함하는 출력 공간을 지원합니다.
• C++로 구현된 빠른 실시간 추론 구현을 제공합니다.
• XR-Transformer 모듈에서 Hugging Face Transformers와 통합됩니다.
• ANN 검색을 위한 스레드 세이프한 그래프 생성 및 병렬 추론을 특징으로 합니다.