本論文は、分散メモリ環境における計算、通信、メモリの3つの要素を統合したモデル(CCMモデル)を提案している。このモデルを用いて、タスクの配置を最適化することで負荷分散を実現する手法(CCM-LB)を示している。
具体的には以下の通り:
CCMモデルでは、計算負荷、通信量、メモリ使用量の3つの要素を組み合わせて、各ランクの総負荷を表現する。これにより、並列度の向上とデータ複製のトレードオフなどの複雑な最適化問題を扱うことができる。
CCM-LBは、CCMモデルに基づいた分散型の启発式アルゴリズムである。各ランクが局所的な情報を交換しながら、タスクの配置を段階的に最適化していく。
CCMモデルの最適化問題をMILPとして定式化し、CCM-LBの解の品質を検証した。CCM-LBは最適解に対して最大1.8%遅い解を見つけることを示した。
非反復的な電磁気干渉問題に対して、機械学習を用いてタスクの実行時間を予測し、CCM-LBに適用した。これにより、128ノードでの不均衡な行列組立に対して2.3倍の高速化を達成した。
A otro idioma
del contenido fuente
arxiv.org
Ideas clave extraídas de
by Jonathan Lif... a las arxiv.org 04-26-2024
https://arxiv.org/pdf/2404.16793.pdfConsultas más profundas