pyg-team/pytorch-frame

何を解決するか

PyTorch Frame は、テキスト、画像、数値など混合された列タイプを含む異種の表形式データ用に設計された、モジュール式の深層学習フレームワークです。従来のツリー基盤モデル（GBDTなど）の制限を克服し、下流モデルとのより良い統合を可能にするとともに、テキスト、画像、タイムスタンプといった複雑な列タイプを数値データやカテゴリデータと共に扱えるようにします。

動作方法

このライブラリは、以下の3つの主要なコンポーネントからなるモジュールアーキテクチャを使用しています：

1. Materialization: ロウの pandas DataFrame を PyTorch 学習に適した TensorFrame 形式に変換します。
2. FeatureEncoder: 異なる列タイプを一貫したサイズの隠れ埋め込みにエンコードします。
3. TableConv: これらの列埋め込み間の相互作用をモデル化します。
4. Decoder: 埋め込みをプールして、各行ごとの最終的な予測または埋め込みを生成します。

LLM埋め込みAPI（OpenAI、Cohere、Voyage AIなど）およびHugging Face transformersを用いてテキストデータをエンコードするサポートも提供しています。

対象ユーザー

深層学習の研究者や実務家向けに設計されており、深層表形式モデルの実験や、標準化されたモジュール式アプローチでGBDTと比較する必要がある方々に適しています。

特徴

• 多様な列タイプ対応: 数値、カテゴリ、マルチカテゴリ、テキスト（埋め込みまたはトークン化済み）、タイムスタンプ、画像をサポート。
• 事前実装モデル: Trompt、FTTransformer、TabNet、ExcelFormer、TabTransformerなどの最先端モデルを含む。
• PyTorchエコシステム統合: PyG（関係データベース学習用）など、他のPyTorchライブラリとシームレスに連携。
• ベンチマークデータセット: 深層学習モデルとGBDTを比較するための、即時利用可能な表形式データセットとベンチマークツールのコレクションを提供。