制約付き確率最適化の非漸近的インスタンス依存分析
本論文では、制約付き凸最適化問題に対する自然な分散低減近接勾配(VRPG)アルゴリズムの非漸近的保証を分析する。我々の主要な結果は、VRPG アルゴリズムの非漸近的保証である。これは、損失関数の複雑さ、ノイズの変動性、制約集合の幾何学的構造を捉えるインスタンス依存的なものである。我々は、VRPG アルゴリズムの非漸近的パフォーマンスが、与えられた問題とその小さな摂動問題の解の間のスケーリングされた距離によって支配されることを示す。ここで、摂動問題は与えられた凸制約の下で解かれる。H´
ajek-Le Cam の局所ミニマックス下限との接続を活用して、サンプルサイズNが無限大に近づくにつれ、VRPG アルゴリズムは、ユニバーサル定数とサンプルサイズの対数因子を除いて、有名な局所ミニマックス下限を達成することを示す。