Effizientes Lernen mit Knotenperturbation in tiefen neuronalen Netzwerken

Knotenperturbation ist ein Lernverfahren, das Rauschen in die Netzwerkaktivierungen einfügt und die daraus resultierenden Änderungen der Verlustfunktion misst, um die Gewichte zu aktualisieren. Durch eine engere Ausrichtung an gerichteten Ableitungen und die Dekorrelation der Eingaben in jeder Schicht kann die Leistung von Knotenperturbation deutlich verbessert werden und sich der Leistung von Backpropagation annähern.