Core Concepts
Der Beitrag präsentiert einen einfachen primal-basierten Algorithmus, den Constrained Gradient Method (CGM), zur Lösung funktional beschränkter Variationsungleichungsprobleme, ohne Informationen über optimale Lagrange-Multiplikatoren zu benötigen. CGM erreicht die optimale Komplexität in Bezug auf die Anzahl der Operator-Abfragen, während es deutlich effizientere Orakel auf Basis quadratischer Programmierung verwendet.
Abstract
Der Artikel befasst sich mit Variationsungleichungsproblemen, bei denen das Ziel ist, einen Punkt x* zu finden, der die Ungleichung F(x*)^T(x* - x) ≤ 0 für alle x im zulässigen Bereich C erfüllt. Der zulässige Bereich C wird durch konvexe Ungleichungsbedingungen beschrieben.
Die Hauptbeiträge sind:
Vorstellung des Constrained Gradient Method (CGM) Algorithmus, der die Suchrichtung (Geschwindigkeit) auf eine lokale, dünnbesetzte und lineare Approximation des zulässigen Bereichs projiziert. Dies erfordert nur die Lösung eines einfachen quadratischen Programms mit linearen Nebenbedingungen.
Konvergenzanalyse von CGM für monotone und stark-monotone Operatoren F. CGM erreicht die optimale Komplexität in Bezug auf die Anzahl der Operator-Abfragen, ohne von den optimalen Lagrange-Multiplikatoren abzuhängen.
Diskussion effizienter Lösungsverfahren für die quadratischen Programme in CGM, einschließlich Fällen mit Simplexnebenbedingungen oder einer einzigen nichtlinearen Nebenbedingung, die geschlossene Lösungen ermöglichen.
Numerische Experimente, die die Effektivität von CGM demonstrieren.
Stats
Die Norm des Operators F(x) ist durch LF beschränkt: ∥F(x)∥ ≤ LF für alle x ∈ Rd.
Jede Nebenbedingungsfunktion gi(x) ist Lg-Lipschitz-stetig und ℓg-glatt.
Der zulässige Bereich C ist in einer Kugel mit Radius D enthalten.
Quotes
"Constrained variational inequality problems are recognized for their broad applications across various fields including machine learning and operations research."
"First-order methods have emerged as the standard approach for solving these problems due to their simplicity and scalability."
"Existing efforts to tackle such functional constrained variational inequality problems have centered on primal-dual algorithms grounded in the Lagrangian function."