非IIDデータ、非凸目的関数、確率的勾配を持つ階層的SGDの収束解析

階層的SGDにおける局所集約の効果を理論的に解明し、局所集約が非IIDデータに対する収束を改善できることを示す。