OpenAI 強健對抗性輸入研究

OpenAI 已開發出圖像，無論從何種尺度或視角觀看，都能可靠地愚弄神經網路分類器。此研究表明，對抗性範例可被設計為對真實世界圖像擷取中常見的變換具備強健性，這挑戰了這樣的主張：像自駕車這類系統透過從多個角度和尺度擷取圖像而固有地受到保護。

尺度不變對抗性範例

強健的對抗性範例是透過在一組隨機重新縮放輸入圖像的隨機分類器集合上進行優化來創建的。此方法使用投影梯度下降來尋找圖像的微小擾動——例如貓的圖像——以同時在廣泛的所需尺度範圍內愚弄分類器。

轉換不變對抗性範例

對抗性範例可透過在訓練擾動中加入隨機旋轉、平移、縮放、噪聲和均值偏移，使其對廣泛的變換分佈具有不變性。

當這些變換在測試時隨機抽取時，得到的單一輸入在任何這些條件下仍保持對抗性。這證明了透過主動努力可以產生能夠轉移到實體世界的對抗性範例，且即使在多樣視角固有的圖像變換下仍保持有效。