核心概念
本研究提出了一種名為「功能性神經耦合」(FNC)的新方法,利用深度學習技術,為具有黑箱特性的隨機系統建立代理模型,並應用於最佳感測器佈署問題。
本研究論文題為「基於深度學習的黑箱隨機模擬之最佳感測器佈署」,探討如何為具有黑箱特性的隨機系統,例如隨機偏微分方程(SPDEs),找到成本效益高的最佳感測器配置,以進行參數推論。傳統方法在處理此類問題時面臨巨大的計算障礙,因此本研究提出了一種新穎且穩健的方法:功能性神經耦合(FNC)。
FNC 使用聯合能量模型(EBM)來模擬輸入參數和解的聯合分佈,並透過模擬數據進行訓練。與現有的基於模擬的推論方法不同,FNC 不受限於特定的點評估集,而是學習參數和解的功能表示。這種表示方法作為一個與解析度無關的即插即用代理,可用於聯合分佈,並能根據任何點集進行條件化,從而實現高效的感測器佈署方法。
研究結果顯示,FNC 在各種隨機問題上均展現出其有效性,能夠以較低的計算成本提供信息豐富的感測器位置,相較於傳統方法更具優勢。
研究方法
學習隱式神經表示(INR): 使用 INR 將函數數據壓縮成低維潛在編碼,使模型能夠處理不同幾何形狀上的函數數據,並實現解析度獨立性。
功能性神經耦合與聯合能量模型: 使用聯合 EBM 學習潛在編碼的聯合分佈,並透過對比散度、基於分數的方法和能量差異等方法進行訓練。
基於貝葉斯實驗設計的感測器佈署: 使用預期信息增益作為效用函數,透過最大化效用函數來確定最佳感測器位置。並採用貝葉斯自適應設計(BAD)框架,迭代地放置感測器,並利用先前已識別的最佳位置的觀測結果來指導後續步驟中最佳感測器位置的選擇。
實驗結果
研究團隊將 FNC 應用於一維邊界值問題、二維達西流問題和二維納維-斯托克斯方程的隨機版本,並與基於傅立葉神經算子(FNO)的方法進行比較。結果顯示,FNC 在感測器佈署任務中優於 FNO 代理模型,因為後者不適用於隨機正向問題。此外,FNC 的性能與擁有完整系統知識的 FNO 相當,證明了其準確性和實用性。
研究結論
FNC 是一種用於昂貴隨機系統的概率代理建模的新方法,它不需假設任何關於內在驅動噪聲的知識,即可透過能量模型對算子輸入和輸出的聯合分佈進行建模。這種方法結合了概率生成模型和隱式神經表示,具有解析度獨立性、捕捉正向模型中隨機性影響以及輸出非正規化聯合分佈等優點,允許透過從後驗分佈中採樣進行推斷和下游任務,例如感測器佈署。
研究限制與未來方向
儘管 FNC 是一種很有前景的方法,但它假設參數解對的密度在任何地方都是正的。當數據分佈在參數空間中稀疏分佈時,例如在完全確定性設置中或只有少數參數選擇導致系統穩定行為時,這可能會對 FNC 構成挑戰。此外,能量模型不一定能推廣到先驗未涵蓋的狀態空間部分。
未來研究方向包括探索更有效的樣本方法,用於函數數據的能量模型建模和訓練,以及研究更有效地利用觀測數據微調基礎能量模型的順序策略。
統計資料
訓練數據包含 M 對參數及其對應的解,這些解是在 Ni 個點觀測值上評估得到的,並且這些點觀測值在 M 個函數實現中可以不同。
在 INR 訓練過程中,僅使用 10% 的數據集即可顯著提高效率,而不會降低性能。
在二維達西流問題中,基於五個初始觀測值,使用 FNC 代理模型找到十五個額外測量點的最佳位置。
在二維納維-斯托克斯方程的實驗中,訓練數據是透過在 16x16 空間網格上的時間點 t=1、2、3 評估解生成的。