深層学習における適応的な正規化手法 - Unsupervised Adaptive Normalization (UAN)

Unsupervised Adaptive Normalization (UAN)は、深層学習の訓練プロセスにおいて、ニューロン活性化の分布変化に適応的に対応し、勾配の安定性を高めることで、収束速度の向上と深層学習モデルの性能向上を実現する。