高次元解析が明らかにする保守的な鋭さと安定性の確率的な境界

高次元解析は、フルバッチ設定での損失関数ヘシアンの大きな固有値の動態に驚くべき頑健な特徴があることを示している。初期段階では固有値が増加する進行的な鋭さがあり、その後安定性の境界で安定化する。しかし、ミニバッチ設定では固有値の増加が抑制される保守的な鋭さが見られる。この現象の理論的分析と、ストキャスティックな安定性の境界(S-EOS)の定義を行う。