atong01/conditional-flow-matching

TorchCFM: a Conditional Flow Matching library

解决的问题

TorchCFM 为连续正则化流(CNFs)提供了一种快速、无需模拟的训练目标。它弥合了 CNF 与扩散模型之间的性能差距,使各种数据类型的生成建模在训练和推理上都更快。

工作原理

该库实现了条件流匹配(CFM)方法,学习将简单分布(如高斯分布)映射到复杂数据分布。它通过多种损失函数抽象了条件分布 $q(z)$ 的选择,包括:

  • ConditionalFlowMatcher: 标准 CFM。
  • ExactOptimalTransportConditionalFlowMatcher: 使用精确最优传输来近似动态最优传输。
  • TargetConditionalFlowMatcher: 学习从标准正态高斯分布到数据的流。
  • SchrodingerBridgeConditionalFlowMatcher: 通过熵正则化最优传输方案近似薛定谔桥。
  • VariancePreservingConditionalFlowMatcher: 使用三角插值以在时间上保持方差。

适用人群

对生成式 AI 感兴趣的研究人员和开发者,特别是关注连续正则化流、最优传输以及图像生成、单细胞动力学和表格数据的无模拟训练者。

主要亮点

  • 实现了多种 CFM 变体,包括 OT-CFM 和 SF2M。
  • 支持图像生成(例如 MNIST、CIFAR-10,FID 3.5)。
  • 兼容 PyTorch、PyTorch Lightning 和 Hydra。
  • 提供丰富的示例和 Jupyter 笔记本,涵盖 2D 教程和图像任务。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目