계층적 SGD는 다수준 통신 네트워크에서 새로운 분산 SGD 알고리즘으로 부상했다. 이 연구에서는 비IID 데이터, 비볼록 목적 함수, 확률적 경사하강법 하에서 계층적 SGD의 수렴 성능을 이론적으로 분석하였다. 특히 상향 및 하향 발산 개념을 도입하여 계층적 SGD의 수렴 특성을 설명하고, 이를 통해 지역 집계가 전역 수렴을 개선할 수 있는 이유를 제시하였다.