本論文は、通信コストを削減しつつ、非IIDデータの影響を軽減するためのワンショット順次連邦学習の新しいフレームワークを提案している。具体的には以下の取り組みを行っている:
各クライアントにモデルプールを設け、多様なモデルを生成する。新しいモデルは既存モデルの平均値から初期化され、モデル間の距離を制御することで、モデルの多様性を高める。
新しいモデルの初期値と既存モデルとの距離、および初期モデルとの距離を損失関数に組み込むことで、非IIDデータの影響を軽減する。
実験の結果、提案手法は既存のワンショット順次連邦学習手法と比べて、CIFAR-10やPACSデータセットなどの非IIDデータ環境で6%以上の精度向上を達成した。また、通信コストも大幅に削減できることを示した。
アブレーション実験により、提案手法のモデル多様性の向上と非IIDデータ対策の効果を確認した。
以上より、本手法は通信コストを抑えつつ、非IIDデータ環境下でも高い性能を発揮できることが示された。
Til et andet sprog
fra kildeindhold
arxiv.org
Vigtigste indsigter udtrukket fra
by Naibo Wang,Y... kl. arxiv.org 04-19-2024
https://arxiv.org/pdf/2404.12130.pdfDybere Forespørgsler