Core Concepts
本論文では、一般有向ネットワーク上での分散最適化問題を解決するために、通信効率の高い2つのアルゴリズムを提案する。第1のアルゴリズムはCompressed Push-Pull (CPP)で、Push-Pull法と通信圧縮を組み合わせたものである。CPPは一般的な無偏圧縮演算子に適用可能で、強convex かつ滑らかな目的関数に対して線形収束を達成する。第2のアルゴリズムはブロードキャスト型のB-CPPで、非同期設定でも適用可能であり、CPPよりも通信コストをさらに削減できる。
Abstract
本論文では、一般有向ネットワーク上での分散最適化問題を解決するための2つのアルゴリズムを提案している。
Compressed Push-Pull (CPP) アルゴリズム
Push-Pull法と通信圧縮を組み合わせたアルゴリズム
一般的な無偏圧縮演算子に適用可能
強convex かつ滑らかな目的関数に対して線形収束を達成
ブロードキャスト型のB-CPPアルゴリズム
非同期設定でも適用可能
CPPよりも通信コストをさらに削減できる
強convex かつ滑らかな目的関数に対して線形収束を達成
CPPとB-CPPは、一般有向ネットワーク上での分散最適化問題に対して、通信効率の高い解決策を提供している。理論的な解析と数値実験により、提案手法の有効性が確認されている。
Stats
分散最適化問題の目的関数は強convexかつ滑らかである。
各エージェントiの目的関数fi(x)は μ-強convexかつL-滑らかである。