atong01/conditional-flow-matching

TorchCFM: a Conditional Flow Matching library

何を解決するか

TorchCFM は、連続正規化フロー(CNF)の高速でシミュレーションフリーな学習目的を提供します。CNF と拡散モデルの性能差を埋め、さまざまなデータタイプにおける生成モデルの学習と推論を高速化します。

動作方法

このライブラリは、シンプルな分布(たとえばガウス分布)から複雑なデータ分布へマッピングする方法を学ぶ条件付きフロー一致(CFM)手法を実装しています。いくつかの損失関数を通じて、条件付き分布 $q(z)$ の選択を抽象化しており、以下を含みます:

  • ConditionalFlowMatcher: 標準的な CFM。
  • ExactOptimalTransportConditionalFlowMatcher: 精確な最適輸送を使って動的OTを近似。
  • TargetConditionalFlowMatcher: 標準正規ガウス分布からデータへフローを学習。
  • SchrodingerBridgeConditionalFlowMatcher: エントロピー正則化されたOT計画によりシュレーディンガー橋を近似。
  • VariancePreservingConditionalFlowMatcher: 三角関数補間を用いて時間にわたる分散を保存。

対象ユーザー

生成AI、特に連続正規化フロー、最適輸送、および画像生成、単細胞ダイナミクス、表形式データに対するシミュレーションフリー学習に興味を持つ研究者や開発者。

特徴

  • OT-CFM や SF2M を含む複数の CFM バリアントを実装。
  • 画像生成(例:MNIST、CIFAR-10、FID 3.5)をサポート。
  • PyTorch、PyTorch Lightning、Hydra と互換性あり。
  • 2D チュートリアルや画像タスク用の豊富な例と Jupyter ノートブックを提供。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト