본 논문은 볼록-오목 무제약 Min-Max 최적화 문제의 전역 안장점을 찾기 위한 여러 가지 부정확한 정규화된 Newton 유형의 방법을 제안하고 분석한다.
기존 1차 방법에 비해 2차 방법에 대한 이해가 상대적으로 제한적이며, 2차 정보를 활용하여 전역 수렴률을 높이는 것이 더 복잡하다는 점을 지적한다.
제안된 방법은 유계된 집합 내에 있는 반복값을 생성하며, 평균 반복값이 제한된 갭 함수 기준으로 O(ε^(-2/3)) 반복 내에 ε-안장점에 수렴함을 보인다. 이는 이론적으로 확립된 하한과 일치한다.
각 반복에서 단일 Schur 분해와 O(log log(1/ε)) 회의 선형 시스템 솔버 호출로 하위 문제를 해결할 수 있는 간단한 루틴을 제공한다. 이를 통해 기존 2차 Min-Max 최적화 방법보다 O(log log(1/ε)) 요인을 줄일 수 있다.
합성 및 실제 데이터에 대한 일련의 수치 실험을 통해 제안된 방법의 효율성을 입증한다.
To Another Language
from source content
arxiv.org
Key Insights Distilled From
by Tianyi Lin,P... at arxiv.org 04-24-2024
https://arxiv.org/pdf/2210.12860.pdfDeeper Inquiries