Concetti Chiave
이 논문은 Lipschitz 목적 함수의 (δ, ǫ)-정상점을 생성하는 새로운 알고리즘을 제안합니다. 이 알고리즘은 차원 d와 정확도 매개변수 δ, ǫ에 대해 최적의 복잡도를 달성합니다.
Sintesi
이 논문은 Lipschitz 연속이지만 평활하지 않고 볼록하지 않은 확률적 목적 함수를 최적화하는 문제를 다룹니다. 최근 연구에서는 이 문제에 대한 몇 가지 확률적 영점 순서 알고리즘이 제안되었지만, 모두 차원 d에 대해 Ω(d3/2) 의 차원 의존성을 가지고 있었습니다.
이 논문에서는 이 차원 의존성을 개선한 새로운 알고리즘을 제안합니다. 제안된 알고리즘은 O(dδ−1ǫ−3) 의 복잡도를 가지며, 이는 d와 정확도 매개변수 δ, ǫ에 대해 최적입니다. 이는 비평활 비볼록 최적화가 평활 비볼록 최적화만큼 쉽다는 것을 보여줍니다.
알고리즘의 핵심 아이디어는 Goldstein 부미분 집합에 대한 새로운 결과를 활용하는 것입니다. 이를 통해 평활 최적화에서 사용되는 기존 기법을 비평활 설정에 적용할 수 있게 됩니다. 또한 고확률 보장을 위한 추가적인 기법도 제안됩니다.
Statistiche
제안된 알고리즘의 복잡도는 O(dδ−1ǫ−3)입니다.
이는 차원 d와 정확도 매개변수 δ, ǫ에 대해 최적입니다.
평활 목적 함수의 경우에도 최적 복잡도를 달성합니다.
Citazioni
"이 논문은 비평활 비볼록 최적화가 평활 비볼록 최적화만큼 쉽다는 것을 보여줍니다."
"제안된 알고리즘은 차원 d와 정확도 매개변수 δ, ǫ에 대해 최적의 복잡도를 달성합니다."