本論文では、分散非凸最適化問題を扱う新しいアルゴリズムCPCAを提案している。CPCAの主な特徴は以下の通りである:
局所目的関数をチェビシェフ多項式近似することで、勾配情報を必要とせずに最適化を行う。これにより、大規模ネットワークでの累積的な関数評価コストを大幅に削減できる。
多項式近似の係数ベクトルを平均コンセンサスにより分散的に共有することで、大域的な多項式近似を構築する。この近似を最適化することで、任意の小さな精度 ε で大域最適解を得ることができる。
多項式近似の次数を適応的に決定する手法を提案し、必要最小限の計算コストで所望の精度を達成する。
分散停止条件を導入することで、精度要件が満たされた時点で分散的に計算を終了できる。
多項式最適化の問題をセミデファイニテプログラミングに帰着する手法も示している。これにより、多変数問題への拡張の道筋を示している。
提案手法は、分散学習のハイパーパラメータ最適化や分散データ統計推定など、様々な応用に適用できる。
A otro idioma
del contenido fuente
arxiv.org
Ideas clave extraídas de
by Zhiyu He,Jia... a las arxiv.org 04-23-2024
https://arxiv.org/pdf/2008.00252.pdfConsultas más profundas