Conceitos essenciais
Wir entwickeln effiziente Proximal-Algorithmen, um konvexe Optimierungsprobleme mit nicht-glatten Zielfunktionen sowie log-konkave Stichprobenziehung mit nicht-glatten Potenzialfunktionen zu lösen. Unsere Algorithmen basieren auf dem Proximal-Punkt-Verfahren für Optimierung und dem Alternating Sampling Framework für Stichprobenziehung, wobei die Schlüsselkomponente die effiziente Implementierung der Proximal-Abbildung ist.
Resumo
Die Arbeit befasst sich mit der Entwicklung effizienter Proximal-Algorithmen für zwei Szenarien:
- Wenn die Zielfunktion/Potenzialfunktion semi-glatt ist, d.h. der (Unter-)Gradient Hölder-stetig ist.
- Wir analysieren die Komplexität der Implementierung der Proximal-Abbildung mithilfe der regularisierten Schnittebenen-Methode.
- Basierend darauf entwickeln wir eine adaptive Proximal-Bündelmethod, die universell ist und keine problemspezifischen Parameter benötigt.
- Wenn die Zielfunktion/Potenzialfunktion eine Komposition von semi-glatten Komponenten ist.
- Wir analysieren die Komplexität der Proximal-Abbildung für diesen Fall.
- Wir kombinieren die effiziente Proximal-Abbildung mit Verwerfungsstichprobenziehung, um einen Proximal-Stichproben-Orakel zu realisieren.
- Wir integrieren den Proximal-Stichproben-Orakel in das Alternating Sampling Framework, um einen effizienten Proximal-Stichproben-Algorithmus für beide Szenarien zu erhalten.
Estatísticas
Die Zielfunktion/Potenzialfunktion f erfüllt die semi-glatte Bedingung: ∥f'(u) - f'(v)∥ ≤ Lα ∥u - v∥^α für alle u, v ∈ ℝ^d, wobei α ∈ [0, 1] und Lα > 0.
Für die Kompositions-Funktion gilt: ∥f'(u) - f'(v)∥ ≤ ∑_i=1^n Lαi ∥u - v∥^αi für alle u, v ∈ ℝ^d, wobei αi ∈ [0, 1] und Lαi > 0 für 1 ≤ i ≤ n.
Citações
"Wir entwickeln effiziente Proximal-Algorithmen, um konvexe Optimierungsprobleme mit nicht-glatten Zielfunktionen sowie log-konkave Stichprobenziehung mit nicht-glatten Potenzialfunktionen zu lösen."
"Die Schlüsselkomponente unserer Algorithmen ist die effiziente Implementierung der Proximal-Abbildung."