
Die Arbeit stellt einen allgemeinen Trainingsrahmen namens XGrad vor, der Gewichtsvorhersage in gängige gradientenbasierte Optimierer integriert, um deren Konvergenz und Generalisierung beim Training von Tiefenlernmodellen zu verbessern.


coremsg

boosting-gradient-based-optimizers-durch-gewichtsvorhersage


Boosting Gradient-Based Optimizers durch Gewichtsvorhersage


title_rewrite


Cluster-basierte Normalisierung (CB-Norm) ist ein neuartiger Normalisierungsansatz für neuronale Netzwerke, der die Stabilität des Gradienten, die Beschleunigung des Lernens und die Anpassungsfähigkeit an verschiedene Lernszenarien verbessert.


neuronale-netzwerke-mit-cluster-basierter-normalisierungsschicht-zur-verbesserung-der-leistung


Neuronale Netzwerke mit Cluster-basierter Normalisierungsschicht zur Verbesserung der Leistung
