加速遇上逆向維護:更快的 $\ell_{\infty}$-迴歸
我們提出了一種隨機乘法權重更新 (MWU) 算法,用於 $\ell_{\infty}$-迴歸,當 $\omega = 2 + o(1)$ 時,其運行時間為 $\tilde{O}(n^{2+1/22.5} \text{poly}(1/\epsilon))$,優於之前在低精度情況下的最佳 $\tilde{O}(n^{2+1/18} \text{poly}\log(1/\epsilon))$ 運行時間。我們的算法結合了最先進的逆向維護數據結構與加速。為此,我們提出了一種新的 MWU 加速方案,展現了穩定性和健壯性,這些是有效實現逆向維護數據結構所需的。
我們還設計了一種更快的確定性 MWU 算法,當 $\omega = 2 + o(1)$ 時,其運行時間為 $\tilde{O}(n^{2+1/12} \text{poly}(1/\epsilon))$,優於之前的最佳 $\tilde{O}(n^{2+1/6} \text{poly}\log(1/\epsilon))$ 運行時間。我們通過展示一種新的穩定性結果來實現這一點,這超越了之前基於內點法 (IPM) 的已知工作。
我們的工作是首次將加速和逆向維護有效地結合在一起,最終使這兩個現代結構化凸優化的最重要組成部分兼容。