신경망의 입력-출력 분포를 정확하게 특성화하기 위한 샘플 없는 모멘트 전파 기술을 제안한다. 이를 위해 Heaviside, ReLU, GELU 등 비선형 활성화 함수의 공분산에 대한 해석적 솔루션을 도출하였다.