Alapfogalmak
본 논문은 비볼록 손실 함수를 가진 대규모 확률적 제약 분포 강건 최적화 문제를 다룹니다. 제안된 알고리즘은 각 반복에서의 계산 복잡도가 전체 데이터셋 크기에 독립적이므로 대규모 응용 분야에 적합합니다.
Kivonat
본 논문은 대규모 비볼록 확률적 제약 분포 강건 최적화 문제를 다룹니다. 기존 연구는 볼록 손실 함수 또는 추가 가정이 필요했지만, 본 논문은 비볼록 손실 함수에 대한 이해를 제공합니다.
대규모 응용 분야에 적합한 효율적인 알고리즘을 제안합니다. 기존 방법은 각 반복의 계산 복잡도가 데이터셋 크기에 선형 또는 더 나쁜 의존성을 가지지만, 제안된 알고리즘은 데이터셋 크기에 독립적입니다.
비볼록 손실 함수에 대한 분석을 제공합니다. 기존 연구는 볼록 손실 함수로 제한되었지만, 본 논문은 비볼록 손실 함수에 대한 이해를 확장합니다.
일반화된 Cressie-Read 발산 함수 가족에 대한 분석을 제공합니다. 이 가족은 다양한 발산 함수를 포함하며, 기존 연구는 특정 발산 함수에 국한되었습니다.
수치 실험 결과는 제안된 알고리즘이 기존 방법보다 우수한 성능을 보임을 입증합니다.
Statisztikák
손실 함수 ℓ(x; s)은 0 ≤ ℓ(x; s) ≤ B 범위에 있습니다.
손실 함수 ℓ(x; s)는 G-Lipschitz 연속이며 L-smooth합니다.
Idézetek
"Distributionally robust optimization (DRO) is a powerful framework for training robust models against data distribution shifts."
"Existing studies on constrained DRO mostly focus on convex loss function, and exclude the practical and challenging case with non-convex loss function, e.g., neural network."