OpenAI 一致性模型:快速单步生成式 AI

OpenAI 推出了“一致性模型”,这是一类旨在加速生成速度的全新生成模型家族。通过直接将噪声映射到数据,这些模型实现了高质量的单步生成,解决了传统扩散模型所需的缓慢迭代采样过程。

技术方法:直接噪声到数据映射

一致性模型直接将噪声映射到数据,从而在设计上实现快速单步生成。不同于需要多次迭代来细化样本的扩散模型,一致性模型能够在一步内生成高质量的输出。然而,它们仍保持灵活;这些模型支持多步采样,用户可以通过增加计算量来换取更高的样本质量。

训练方法:蒸馏与独立训练

一致性模型可以通过两种不同的训练路径进行部署:

  1. 蒸馏:可以通过蒸馏预训练的扩散模型进行训练,利用已有的基于扩散的知识加速生成。
  2. 独立训练:可以从头开始作为独立的生成模型进行训练,无需预先存在的扩散模型。

能力与零样本数据编辑

除了简单的生成,一致性模型还支持零样本数据编辑任务,无需针对这些特定功能进行显式训练。这些能力包括:

  • 图像修复:填补图像中缺失的部分。
  • 上色:为灰度图像添加颜色。
  • **超分辨率:提升图像的分辨率。

性能基准

一致性模型在单步和少步采样方面优于现有的扩散模型蒸馏技术。作为独立模型进行训练时,它们在标准基准上超越了现有的单步、非对抗生成模型。

关键性能指标包括以下单步生成的最新 FID 分数:

  • CIFAR-10:3.55 FID
  • ImageNet 64x64:6.20 FID

实验在包括 CIFAR-10、ImageNet 64x64 和 LSUN 256x256 在内的标准基准上进行。

Sources