Konvergenzraten für stochastische Approximation mit zeitverzögerten Updates unter Markov-Abtastung
Die Arbeit liefert die erste umfassende Finite-Zeit-Konvergenzanalyse für zeitverzögerte stochastische Approximationsverfahren unter Markov-Abtastung. Die Autoren zeigen, dass die zeitverzögerten Aktualisierungen zu einer exponentiell schnellen Konvergenz der letzten Iteration zu einer Kugel um den Fixpunkt des stochastischen Approximationsoperators führen, wobei die Konvergenzrate vom maximalen Verzögerungswert τmax und der Mischzeit τmix des zugrunde liegenden Markov-Prozesses abhängt. Darüber hinaus präsentieren die Autoren einen verzögerungsadaptiven Algorithmus, dessen Konvergenzrate nur vom durchschnittlichen Verzögerungswert τavg abhängt und keine Kenntnis der Verzögerungssequenz für die Schrittweiteneinstellung erfordert.