Die Studie untersucht die Frage, ob die Äquivalenz zwischen dem Verschwinden des Stationaritätsmaßes und der Stationarität des Iterationspunktes für Bregman-basierte Optimierungsverfahren wie Mirror Descent gilt.
Zunächst wird ein erweitertes Bregman-Stationaritätsmaß eingeführt, das über den gesamten Definitionsbereich des Kernelfunktion definiert ist und die Kontinuität dieses Maßes nachgewiesen. Es wird gezeigt, dass das Verschwinden des erweiterten Stationaritätsmaßes eine notwendige Bedingung für Stationarität ist.
Allerdings wird dann aufgezeigt, dass das Verschwinden des Stationaritätsmaßes nicht hinreichend für Stationarität ist. Es existieren sogenannte "spuriöse stationäre Punkte", an denen das Stationaritätsmaß verschwindet, die aber keine stationären Punkte sind. Die Existenz solcher spuriöser stationärer Punkte wird für eine breite Klasse konvexer Probleme nachgewiesen.
Aufbauend auf dieser Entdeckung der spuriösen stationären Punkte wird ein allgemeines Härteresultat bewiesen: Unabhängig von der Anzahl der Iterationsschritte kann die Iterationsfolge der Bregman-proximalen Algorithmen in einer kleinen Umgebung dieser spuriösen Punkte verbleiben, selbst für konvexe Probleme. Dies deutet auf fundamentale theoretische und numerische Herausforderungen für Bregman-basierte Optimierungsverfahren hin.
Ke Bahasa Lain
dari konten sumber
arxiv.org
Wawasan Utama Disaring Dari
by He Chen,Jiaj... pada arxiv.org 04-15-2024
https://arxiv.org/pdf/2404.08073.pdfPertanyaan yang Lebih Dalam