オンラインでの勾配変動に適応した汎用的な学習手法: 多層オンラインアンサンブルアプローチ

本論文では、未知の関数の種類や曲率に適応しつつ、環境の良さに応じた問題依存的な保証を得られる、オンラインの凸最適化アプローチを提案する。具体的には、強convex、exp-concave、convex損失関数に対して、それぞれO(log VT)、O(d log VT)、b O(√VT)のレグレット界を得ることができる。ここで、VTは勾配変動を表す問題依存的な量である。