OpenAI OT‑GAN：使用最適傳輸改進 GAN

OpenAI 推出了最適傳輸 GAN（OT‑GAN），這是一種生成對抗網路的變體，旨在最小化生成器分佈與資料分佈之間的新距離度量。此方法提升了訓練的穩定性，特別是在使用大型小批量時，並在多個影像生成基準測試中達到最先進的成果。

小批量能量距離度量

OT‑GAN 採用稱為小批量能量距離的度量。此距離函數設計上具高度辨別力，並在訓練過程中提供無偏的小批量梯度。它透過結合兩個主要技術組件來實現此目標：

• 原始形式的最適傳輸： 此度量結合最適傳輸原理，以衡量分佈之間的距離。
• 對抗式學習的特徵空間： 能量距離在一個由對抗方式學習的特徵空間中定義，使模型能更好區分真實與生成的資料。

訓練穩定性與效能

OT‑GAN 在穩定性與效能上相較於傳統 GAN 架構顯著提升。研究人員發現，OT‑GAN 在使用大型小批量訓練時具高度穩定性，而這通常是標準生成對抗網路所面臨的挑戰。

根據作者的摘要，該架構的結果是一個「具高度辨別力且提供無偏小批量梯度的距離函數」。

對影像生成的影響

透過套用小批量能量距離度量，OT‑GAN 在熱門的影像生成基準問題上取得最先進的成果。這表明，小批量能量距離方法比先前的 GAN 損失函數更有效地使生成器的分佈與目標資料分佈對齊。