atong01/conditional-flow-matching

TorchCFM: a Conditional Flow Matching library

解決的問題

TorchCFM 提供連續正規化流(CNFs)的快速、無模擬訓練目標。它彌補了 CNFs 與擴散模型之間的性能差距,使各種資料類型的生成模型在訓練與推論上都更快速。

工作原理

該程式庫實作條件流匹配(CFM)方法,學習將簡單分佈(例如常態分佈)映射至複雜資料分佈。它透過多種損失函數抽象條件分佈 $q(z)$ 的選擇,包括:

  • ConditionalFlowMatcher: 標準 CFM。
  • ExactOptimalTransportConditionalFlowMatcher: 使用精確最佳輸送來近似動態最佳輸送。
  • TargetConditionalFlowMatcher: 學習從標準常態高斯分佈至資料的流。
  • SchrodingerBridgeConditionalFlowMatcher: 透過熵正則化最佳輸送計畫近似薛丁格橋。
  • VariancePreservingConditionalFlowMatcher: 使用三角插值以在時間上保持變異數。

適用對象

對生成式 AI 感興趣的研究人員與開發者,特別是關注連續正規化流、最佳輸送,以及圖像生成、單細胞動態與表格資料的無模擬訓練者。

主要亮點

  • 實作多種 CFM 變體,包括 OT-CFM 與 SF2M。
  • 支援圖像生成(例如 MNIST、CIFAR-10,FID 3.5)。
  • 兼容 PyTorch、PyTorch Lightning 與 Hydra。
  • 提供豐富的範例與 Jupyter 筆記本,涵蓋 2D 教學與圖像任務。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案