Grunnleggende konsepter
本論文では、最適輸送問題を R´
enyi 発散を用いて正則化する手法を提案する。R´
enyi 発散は KL 発散を一般化したものであり、正則化パラメータαを調整することで、無正則化の最適輸送問題と KL 正則化の最適輸送問題の間を補間できる。
Sammendrag
本論文では、最適輸送問題を R´
enyi 発散を用いて正則化する2つの手法を提案している。
- R´
enyi 発散の制約を課す方法(R´
enyi-OT predistance)
- 輸送計画の集合を R´
enyi 発散が一定の閾値以下に制限されるものに限定する
- 最適化問題の解は一意に存在し、無正則化の最適輸送問題と KL 正則化の最適輸送問題の間を補間する
- R´
enyi 発散を目的関数に追加する方法(R´
enyi regularized OT)
- 目的関数に R´
enyi 発散の項を追加する
- 対偶問題の導出を行い、最適な双対ポテンシャルの表現を得る
- 正則化パラメータαとλの極限挙動を解析し、無正則化問題と KL 正則化問題への収束を示す
提案手法は、KL 正則化や Tsallis 正則化に比べて、より小さな正則化パラメータでも無正則化の最適輸送計画に近い解を得ることができる。また、実データでの推論タスクでも提案手法が優れた性能を示す。
Statistikk
無正則化の最適輸送計画と KL 正則化の最適輸送計画の比較では、KL 正則化の計画は大きな正則化パラメータでも無正則化の計画と構造的に大きく異なる。
R´
enyi 発散は Tsallis 発散の一般化であり、より高次の情報を捉えることができる。
Sitater
"R´
enyi 発散は f-発散ではなく、Bregman 距離でもないが、α Õ 1の極限でKL 発散を回復する。"
"R´
enyi 正則化の利点は、α Œ 0の極限で無正則化の最適輸送問題に収束することである。KL 正則化の場合、この収束を達成するには正則化パラメータ1/λを0に送る必要があり、これは数値的に不安定である。"