google-research/tabfm

해결하는 문제

TabFM은 새로운 데이터 세트마다 모델을 처음부터 훈련할 필요 없이 테이블 데이터 세트에 대해 분류 및 회귀를 수행하는 데 따르는 어려움을 해결합니다. 모델을 로드한 직후 혼합 열 유형(수치형 및 범주형)이 있는 테이블에서 제로샷 예측을 가능하게 합니다.

작동 방식

TabFM은 in-context learning을 사용하는 테이블 파운데이션 모델입니다. 특정 데이터 세트에 대한 훈련을 통해 모델 매개변수를 업데이트하는 대신, 훈련 데이터를 "컨텍스트"로 읽어 들여 해당 정보를 사용하여 새로운 테스트 샘플에 대해 즉각적인 예측을 수행합니다. scikit-learn과 호환되도록 설계되어 기존 Python 머신러닝 워크플로우에 쉽게 통합할 수 있습니다.

대상 사용자

전통적인 모델 훈련의 오버헤드 없이 테이블 데이터에 대해 신속한 프로토타이핑 또는 예측을 수행하고자 하는 데이터 과학자 및 머신러닝 엔지니어를 대상으로 합니다.

주요 특징

• 제로샷 기능: 대상 데이터 세트에 대한 매개변수 훈련 없이 분류 및 회귀를 수행합니다.
• Scikit-learn 호환성: 쉬운 통합을 위해 익숙한 API (fit 및 predict)를 구현합니다.
• 혼합 유형 지원: 수치형 및 범주형 특성을 모두 포함하는 데이터 세트를 즉시 처리합니다.
• 유연한 백엔드: 추론을 위해 JAX와 PyTorch를 모두 지원합니다。
• 컨텍스트 윈도우 관리: 메모리 및 테이블 크기를 관리하기 위해 in-context learning에 사용되는 특성 및 행의 수를 제어하는 매개변수가 포함되어 있습니다.