本論文では、従来の滑らかな活性化関数に加えて、ReLUなどの非微分的な活性化関数を持つ深層ニューラルネットワークの幾何学的解析を行う。特に、n次元の等価クラスの構造と、それらの間を移動するランダムウォークによる探索手法を提案する。