Konvergenzgarantien für RMSProp und Adam in verallgemeinert-glatten nicht-konvexen Optimierungen mit affiner Rauschvarianz
Diese Arbeit liefert die ersten engen Konvergenzanalysen für RMSProp und Adam in nicht-konvexen Optimierungen unter den lockersten Annahmen von koordinatenweiser verallgemeinerter Glattheit und affiner Rauschvarianz.