Optimal-Transport-based Adversarial Networks Analysis and Improvement

핵심 개념

OT-based GANs benefit from strictly convex functions and cost functions to enhance stability and prevent mode collapse.

초록

Optimal Transport (OT) theory is utilized in generative modeling, with recent advancements focusing on OT-based generative models. These models face challenges like unstable training processes and limited expressivity. UOTM introduces a semi-dual form of Unbalanced Optimal Transport (UOT) problem, showing promising outcomes but lacking τ-robustness. A novel method, UOTM with Scheduled Divergence (UOTM-SD), gradually adjusts the divergence term to improve performance while addressing τ-sensitivity. The equi-Lipschitz continuity of UOTM potential contributes to stable convergence during training.

통계

Lvϕ,Tθ = inf 1 |X| P x∈X g1 (-c(x, ˆy) + vϕ(ˆy)) + 1 |Y| P y∈Y g2(-vϕ(y))
Lv = 1 |X| P x∈X g3((c(x, Tθ(x)) - vϕ(Tθ(x))))
FID score of UOTM-SD: 2.51 on CIFAR-10 and 5.99 on CelebA-HQ-256.

인용구

핵심 통찰 요약

Analyzing and Improving Optimal-Transport-based Adversarial Networks

by Jaemoo Choi,... 게시일 arxiv.org 03-08-2024

https://arxiv.org/pdf/2310.02611.pdf

더 깊은 질문

質問1

UOTMのポテンシャルネットワークの等リプシッツ連続性が安定したトレーニングにどのように貢献するか？
UOTMでは、ポテンシャルネットワークが等リプシッツセット内に留まることで、安定した収束を実現します。等リプシッツ連続性は、ニューラルネットワーク近似が高度な不規則な挙動を示す可能性があるため重要です。この連続性は、潜在的な関数vϕが全ての入力yに対して一貫した変化を表さず、訓練中も安定していることを示唆します。

質問2

αスケジュール方式は、UOTMのτ-ロバスト性向上にどのような影響を与えますか？
αスケジュール方式は、τ-ロバスト性向上に効果的です。この方法では、小さい発散項から始めて徐々にその影響力を増やすことで最適輸送マップπαを最適輸送マップπへ収束させます。これは厳密凸関数Ψ∗i を単調増加する過程と捉えられます。つまり、厳密凸関数Ψ∗i をId関数へ徐々に直し、「Id」方向へ引き戻す作用があります。

質問3

将来的な研究では、OT-based GANsで輸送マップの収束を探求する際の含意事項は何ですか？
将来的な研究では、「Theorem 4.1」で述べられたように輸送計画πだけでなく輸送マップTも収束させることが重要です。「Theorem 4.1」ではアルファスケーリング法C(μ, ν) (Eq. 6) の最適輸送計画πα,⋆ が極限値 α → ∞ で C(μ, ν) (Eq. 1) の最適輸送計画 π⋆ ひ弱収束することが示されました。今後の調査ではこの点も考慮しつつ進める必要があります。