OpenAI 变分损失自编码器研究

OpenAI 已经开发了一种将神经自回归模型集成的变分损失自编码器（VAE），以选择性地丢弃无关信息——例如 2D 图像中的纹理——来学习全局表示。这种方法提高了生成建模性能，在 MNIST、OMNIGLOT 和 Caltech-101 Silhouettes 的密度估计任务上实现了最先进的结果。

通过损失自编码进行全局表示学习

表示学习的主要目标是隔离观测数据的特定方面，以便于下游任务如分类。变分损失自编码器通过强制全局潜在码丢弃无关信息来实现这一点，实际上执行了“损失”自编码。例如，在 2D 图像中，模型可以被设计为捕获全局结构而忽略详细纹理。

神经自回归模型的集成

为了提升生成性能，OpenAI 模型利用神经自回归模型——具体来说是 RNN、MADE 和 PixelRNN/CNN——作为先验分布 $p(z)$ 和解码分布 $p(x|z)$。这种架构组合使得模型相比标准 VAE 能够产生更高质量的生成样本和更准确的密度估计。

基准测试与性能

通过将 VAE 与自回归模型相结合，研究团队在以下三个特定数据集的密度估计任务上取得了新的最先进结果：

• MNIST
• OMNIGLOT
• OMNIGLOT
• Caltech-101 Silhouettes