RAMSES-yOMP：針對天體物理流體動力學模擬代碼 RAMSES 的性能優化

Основные понятия

RAMSES-yOMP 通過採用混合并行化方案、改進的泊松方程求解器和增強的負載平衡方案，顯著提高了天體物理模擬代碼 RAMSES 的性能和內存效率。

Аннотация

論文概述
本論文介紹了 RAMSES-yOMP，它是對天體物理流體動力學模擬代碼 RAMSES 的改進版本。RAMSES-yOMP 在預先存在的 MPI 結構之上添加了 OMP，實現了一種混合并行化方案。新代碼還包括兩項額外的性能改進：用於求解泊松方程的預處理流水線共軛梯度法，以及針對粒子的增強負載平衡方案。
主要發現

在利用 1536 個核心的基準模擬中，新代碼的執行時間縮短至約 53%，與原始代碼相比速度提升了約 2 倍。這種縮短源於多個因素，包括更好的核心間負載平衡、更少的域分解開銷以及改進的泊松方程求解器。
內存使用量減少了約 23%（減少了約 4 倍），磁盤空間使用量減少了約 70%（減少了約 1.4 倍）。使用表現出最佳性能的 OMP 線程數 (NOMP = 16) 時，內存和磁盤空間分別減少到約 33% 和約 74%。通過減少 MPI 域的數量來節省內存，從而平衡不同域之間內存使用量的差異。減少磁盤空間使用量的原因是減少了 MPI 結構中保存的網格數據的冗餘。
儘管由於算術運算中舍入誤差模式的不同，結果會隨著時間的推移而略有不同，但採用混合并行化的新代碼可以合理地重現僅 MPI 運行的結果。
RAMSES-yOMP 的意義
RAMSES-yOMP 在并行性能和內存效率方面表現出色。yOMP 實現的混合并行化具有多種優勢。新代碼為有效利用超過 10000 個核心的天體物理模擬提供了可能性。這為需要越來越具有挑戰性的計算資源的天體物理學界提供了一個巨大的機會。減少 MPI 域可以有效利用內存，從而能夠在 RAM 規模較小的設備上執行模擬，而無需故意閒置核心來確保內存空間。確保的內存空間還可以用於分配信息，這些信息可用於存儲額外的物理特性，例如細胞數據中的化學物質、塵埃和輻射（Han et al. 2025，準備中）。這些性能改進的結合使得以前由於代碼的并行效率低下而無法進行的大規模模擬成為可能。
RAMSES-yOMP 的局限性和未來方向
儘管如此，yOMP 代碼在包含重子物理學的流體動力學模擬中仍然存在一些潛在的瓶頸，這些瓶頸主要來自與網格結構交互的基於粒子的子程序的并行實現。最突出的部分包括使用雲中細胞 (CIC) 算法進行的密度估計和機械超新星反饋（Kimm & Cen 2014）。這些子程序具有以下特點：每個線程可以同時訪問和更新重疊的網格位置。為了防止競爭條件可能導致數據損壞，代碼必須包含原子操作、關鍵操作或鎖定操作，這些操作會導致模擬速度變慢。
此訪問擁塞問題的嚴重程度取決於不同線程更新重疊共享數組的頻率，該頻率隨線程數的增加而增加，並且可能是圖 2 中 NOMP = 64 情況下性能下降的主要原因，從而導致“最佳點”的存在。通過為每個線程分配一個臨時數組並在私有內存中執行大多數計算，然後以降低的頻率一次性將匯總的更新應用於共享內存，可以緩解此問題。此策略已在代碼的大多數 OMP 實現中採用。但是，某些子程序涉及複雜的迭代功能，不允許對主內存屬性進行并行更新。機械超新星反饋就是這種情況，它涉及一種算法，該算法在單個順序執行中推斷和更新目標網格和相鄰網格，從而強制執行單線程操作。此算法的完整 OMP 實現可能需要放棄始終如一地重現單線程行為的約束。
OMP 的靈活性允許在模擬運行期間更改核心數量，這在原始版本的 RAMSES 中是不可能的。這種能力增加了極大的便利性，特別是對於利用大量計算資源的模擬項目，用戶需要適應資源可用性。代碼的發佈版本可在 Han et al. (2024) 中找到。代碼的實時版本可在 git 存儲庫 1 中找到。

Статистика

使用 1536 個核心進行基準模擬時，新代碼的執行時間縮短至約 53%，與原始代碼相比速度提升了約 2 倍。
內存使用量減少了約 23%（減少了約 4 倍），磁盤空間使用量減少了約 70%（減少了約 1.4 倍）。
使用表現出最佳性能的 OMP 線程數 (NOMP = 16) 時，內存和磁盤空間分別減少到約 33% 和約 74%。

Ключевые выводы из

RAMSES-yOMP: Performance Optimizations for the Astrophysical Hydrodynamic Simulation Code RAMSES

by San Han, Yoh... в arxiv.org 11-25-2024

https://arxiv.org/pdf/2411.14631.pdf

Дополнительные вопросы

RAMSES-yOMP 的混合并行化方法還可以用於哪些其他計算密集型科學領域？

RAMSES-yOMP 中實現的混合并行化方法（結合 MPI 和 OpenMP）可以廣泛應用於天體物理學以外的各種計算密集型科學領域。這種方法特別適合於具有以下特點的問題：

在結構化和非結構化網格上進行的大規模數值模擬： RAMSES-yOMP 中使用的自適應網格細化 (AMR) 技術可以應用於需要在不同空間尺度上進行精確計算的領域，例如流體力學、氣象學、地震學和材料科學。
涉及大量粒子和/或網格點的 N 體模擬： 混合并行化方法可以有效地分配計算負載並減少與粒子間交互作用相關的通信開銷，使其適用於分子動力學、天體物理學（如恆星動力學和星系形成）以及粒子物理學。
需要頻繁更新共享數據結構的應用程序： OpenMP 在共享內存環境中處理并行線程的能力使其成為需要頻繁更新共享數據結構（如大型矩陣或數據庫）的算法的理想選擇，這些算法出現在機器學習、數據挖掘和生物信息學中。
總之，任何需要大量計算且可以分解成可以并行處理的較小子問題的科學問題都可以從 RAMSES-yOMP 中實現的混合并行化方法中受益。

如何減輕與基於粒子的子程序相關的剩餘瓶頸，以進一步提高 RAMSES-yOMP 在處理更複雜的天體物理現象（如輻射轉移或磁流體動力學）方面的性能？

RAMSES-yOMP 在處理基於粒子的子程序時面臨的主要瓶頸是需要頻繁更新共享數據結構，例如在密度估計和機械超新星反饋期間。這些操作可能導致線程之間的競爭條件，從而需要原子操作或鎖定機制，從而降低性能。
為了減輕這些瓶頸並進一步提高 RAMSES-yOMP 在處理更複雜的天體物理現象（如輻射轉移或磁流體動力學）方面的性能，可以採用以下策略：

基於粒子的計算的更有效的數據結構： 探索和實現更適合并行處理的替代數據結構，例如八叉樹或 k-d 樹，可以最大限度地減少線程之間的數據共享和同步需求。
混合并行化方案的進一步優化： 通過仔細分析代碼並使用性能分析工具，可以優化 MPI 和 OpenMP 之間的任務分配和數據分發，以最大限度地減少通信開銷并提高負載平衡。
利用異構計算架構： 通過利用 GPU 或其他加速器等異構計算架構，可以將基於粒子的計算卸载到這些設備，從而釋放 CPU 資源以執行其他任務。這將需要修改代碼以有效地利用這些架構。
算法改進： 探索和實現用於輻射轉移或磁流體動力學等過程的新算法，這些算法從一開始就設計為具有并行性，可以顯著提高性能。
通過實施這些改進，RAMSES-yOMP 可以更有效地處理更複雜的天體物理現象，從而能夠對星系和宇宙的形成和演化進行更詳細和逼真的模擬。

隨著百億億級計算的出現，RAMSES-yOMP 的設計可以如何發展以適應具有更複雜硬件架構和更大規模數據集的未來超級計算機？

隨著我們邁向百億億級計算時代，RAMSES-yOMP 需要不斷發展以利用未來超級計算機中可用的更複雜的硬件架構和更大規模的數據集。以下是一些潛在的設計改進：

更深入的并行化： 探索除 MPI 和 OpenMP 之外的其他并行化策略，例如任務并行化或異步計算模型，以利用具有數百萬甚至數十億個核心的百億億級系統。
異構計算： 將代碼移植到異構架構，例如 GPU、FPGA 和其他加速器，這些架構在處理大量數據和執行并行計算方面表現出色。這將需要對算法進行重大修改和優化。
數據管理和 I/O： 實施高效的數據管理和 I/O 技術，以處理百億億級模擬產生的大量數據。這包括并行 I/O、原位數據分析和數據壓縮技術。
容錯： 在百億億級系統上運行的長時間模擬中，故障是不可避免的。實施容錯機制，例如檢查點、重新啟動和數據冗餘，對於確保模擬的可靠性和連續性至關重要。
可移植性和可擴展性： 設計代碼時要考慮可移植性和可擴展性，以便它可以在具有不同架構和計算能力的各種百億億級系統上輕鬆移植和運行。
通過解決這些設計挑戰，RAMSES-yOMP 可以繼續作為天體物理學研究的寶貴工具，使科學家能夠利用百億億級計算的力量來模擬和理解宇宙中最複雜和最具挑戰性的現象。