핵심 개념
MMD 정규화 f-Divergence는 RKHS에서 정의된 특정 함수의 Moreau 포락 함수로 나타낼 수 있다. 이를 통해 MMD 정규화 f-Divergence의 다양한 성질을 증명할 수 있다.
초록
이 논문에서는 f-Divergence를 MMD로 정규화한 Dλ
f,ν 함수를 연구한다. 먼저 f-Divergence의 성질을 살펴보고, 이를 RKHS에 매핑하여 Gf,ν 함수를 정의한다. 이 Gf,ν 함수가 Γ0(HK)에 속하는 것을 보이고, Dλ
f,ν이 Gf,ν의 Moreau 포락 함수라는 것을 밝힌다.
이를 통해 Dλ
f,ν의 다양한 성질을 증명할 수 있다:
- 이중 표현식 (19)
- 상한 및 하한 추정 (20)
- 연속성 및 거리 메트릭 성질 (Corollary 12)
- λ → 0, λ → ∞ 극한 (Corollary 13)
또한 이러한 성질을 바탕으로 Wasserstein 경사 흐름 분석도 수행한다.
통계
Df(ρν + μs | ν) = ∫Rd f ∘ ρ dν + f'∞μs(Rd)
Dλ
f,ν(μ) = minσ∈M+(Rd) {Df(σ | ν) + 1/(2λ)dK(μ, σ)2}
Dλ
f,ν(μ) = Gλ
f,ν(mμ)