Wie die Komplexität neuronaler Netzwerke mit ihrer Überparametrisierung zusammenhängt
Die Boolean Mean Dimension (BMD) ist ein Maß für die Komplexität und Sensitivität der von neuronalen Netzwerken erlernten Funktionen. Die BMD erreicht ein deutliches Maximum an der Interpolationsschwelle, wo auch die Generalisierungsleistung ein Maximum aufweist. Mit zunehmender Überparametrisierung nähert sich die BMD dann einem niedrigen asymptotischen Wert.
