重新審視可微分結構學習：ℓ1 懲罰的不一致性及其超越

核心概念

ℓ1 懲罰在可微分結構學習中存在固有的不一致性，即使找到全局最優解也可能導致錯誤的結構。本文提出了一種基於 ℓ0 懲罰、硬性無環約束和道德圖估計的混合可微分結構學習方法 CALM，以解決 ℓ1 懲罰的缺陷，並提升模型效能。

摘要

論文摘要

本研究論文探討了可微分結構學習中的重要挑戰，特別是在線性高斯情況下懲罰似然方法的局限性。

研究背景

貝氏網路等機率圖模型是簡潔地捕捉複雜機率關係的強大工具。傳統上，學習這些結構涉及離散方法，例如基於約束的方法和基於評分的方法。近年來，可微分結構學習方法將學習有向無環圖 (DAG) 的組合問題轉化為連續優化問題，為應用基於梯度的優化技術打開了大門。然而，最近的研究表明，可微分結構學習方法存在非凸性問題，特別是在線性高斯設定中，其中真實結構可以通過馬可夫等價類別來識別。

研究問題

本研究進一步探討了另一個關鍵問題：ℓ1 懲罰似然的不一致性，即使可以找到優化問題的全局最優解。ℓ1 懲罰雖然鼓勵較小的邊緣權重，但並不能保證結果結構的真實稀疏性。最小化 ℓ1 範數可能會導致比最小化 ℓ0 範數更密集的結構，因為 ℓ1 傾向於具有較小絕對值的邊緣，即使它們代表的是虛假邊緣。

研究方法

為了克服這些限制，本文提出了一種稱為 CALM（具有估計道德圖的連續和無環約束 ℓ0 懲罰似然）的可微分結構學習方法。CALM 使用 ℓ0 懲罰來規範似然，並通過 Gumbel Softmax 等技術進行近似，以在學習的鄰接矩陣中強制執行稀疏性。此外，CALM 還結合了學習的道德圖來限制道德圖內邊緣的優化，從而減少搜索空間。

實驗結果

實驗結果表明，CALM 在各種圖形類型和樣本大小上始終優於 GOLEM-NV-ℓ1 和 NOTEARS。在 ER1 等稀疏圖中，CALM 的性能與樣本量較小時的 PC 相當，而在 ER4 等密集圖中，它在所有基準方法中均取得了最佳結果。CALM 在數據標準化前後也保持穩健的性能。

研究結論

本研究證明了 ℓ1 懲罰似然在線性高斯情況下可微分結構學習中的不一致性，並提出了一種基於 ℓ0 懲罰、硬性無環約束和道德圖估計的混合可微分結構學習方法 CALM 來解決這個問題。實驗結果表明，CALM 在各種設定下均優於現有方法，為可微分結構學習提供了更可靠的途徑，特別是對於學習馬可夫等價類別。

未來方向

未來的研究方向包括將 CALM 擴展到非線性模型，並整合先進的優化技術以進一步改進線性模型。

統計資料

平均而言，對於每個真實 DAG B∗，在滿足協方差約束的 d! 個 DAG ˜B 中，有 77.86% 的 ˜B 的 ℓ1 範數小於 B∗。
在 1,000 次運行中，Bℓ1 的平均 ℓ1 範數為 4.22，小於 B∗ 的平均 ℓ1 範數 10.04。
Bℓ1 的平均 ℓ0 範數（邊數）為 22.74，大於 B∗ 的 ℓ0 範數（邊數）8。
Bℓ1 和 B∗ 之間的平均 CPDAG 的 SHD 為 19.97。

引述

"ℓ1-penalized likelihood is inconsistent, even if the global optimum of the optimization problem can be found."
"CALM, combining hard DAG constraints and the moral graph, delivers the best results."
"CALM consistently outperforms both NOTEARS and the original GOLEM-NV-ℓ1 across all graph structures and sample sizes."

從以下內容提煉的關鍵洞見

Revisiting Differentiable Structure Learning: Inconsistency of $\ell_1$ Penalty and Beyond

by Kaifeng Jin,... 於 arxiv.org 10-25-2024

https://arxiv.org/pdf/2410.18396.pdf

深入探究

可微分結構學習方法如何應用於其他類型的圖模型，例如無向圖或鏈圖？

可微分結構學習方法主要應用於有向無環圖 (DAG) 的學習，這是因為 DAG 的結構可以通過其加權鄰接矩陣的非零元素和無環約束來有效地表示。然而，將這些方法直接應用於無向圖或鏈圖等其他類型的圖模型會面臨一些挑戰：

無向圖： 無向圖的結構表示不需要滿足無環約束，但需要考慮邊的對稱性。現有的可微分結構學習方法需要修改才能處理邊的對稱性。一種可能的解決方案是將鄰接矩陣限制為對稱矩陣，並採用新的約束或正則化項來鼓勵稀疏性和其他期望的圖結構特性。
鏈圖： 鏈圖是一種特殊的 DAG，其中每個節點最多只有一個父節點。現有的可微分結構學習方法可以直接應用於鏈圖學習，但可能需要額外的約束或正則化項來確保學習到的圖結構確實是鏈圖。例如，可以添加一個約束條件，限制每個節點的入度最多為 1。
除了上述挑戰之外，還需要開發新的評分函數和優化算法，以適應不同類型圖模型的特性。例如，無向圖通常使用互信息或精度矩陣來衡量變量之間的依賴關係，而鏈圖可以使用條件似然或預測誤差來評估模型的擬合度。
總之，雖然可微分結構學習方法在 DAG 學習方面取得了顯著的成功，但將其應用於其他類型的圖模型還需要克服一些挑戰。需要進一步的研究來開發新的方法和技術，以擴展可微分結構學習的應用範圍。

如果數據中存在隱藏變量或混雜因素，CALM 的性能會如何變化？

如果數據中存在隱藏變量或混雜因素，CALM 的性能可能會受到影響，因為它目前的设计主要针对线性高斯模型，并假设观察到的变量之间没有未观察到的混淆因素。

隱藏變量： 隱藏變量會在觀察到的變量之間產生虛假關聯，導致 CALM 可能學習到錯誤的邊。例如，如果存在一個未被觀察到的變量影響了兩個觀察到的變量，CALM 可能會錯誤地將這兩個觀察到的變量連接起來。
混雜因素： 混雜因素會扭曲變量之間的真實因果關係，導致 CALM 可能無法識別真正的因果結構。例如，如果一個混雜因素同時影響了原因變量和結果變量，CALM 可能無法區分它們之間的直接因果關係和由混雜因素引起的間接關聯。
为了解决这些问题，可以考虑以下几种方法：

引入潛變量： 可以扩展 CALM 模型，使其能够处理潜变量。例如，可以采用类似于结构方程模型 (SEM) 的方法，将潜变量引入模型中，并使用期望最大化 (EM) 算法等方法来估计模型参数。
因果发现方法： 可以结合因果发现方法来识别和处理混雜因素。例如，可以采用基于约束的方法，如 PC 算法或 FGES 算法，来识别变量之间的条件独立性关系，从而推断出潜在的因果结构，并识别出混雜因素。
工具變量： 如果可以找到合适的工具變量，就可以利用工具變量来消除混雜因素的影響。工具變量是指只影响原因变量，而不直接影响结果变量的变量。
总而言之，在存在隱藏變量或混雜因素的情况下，需要对 CALM 进行相应的改进才能保证其性能。未来的研究可以探索如何将 CALM 与其他方法相结合，以提高其在更复杂数据情况下的鲁棒性和准确性。

可微分結構學習的發展如何促進因果推理和決策制定領域的進步？

可微分結構學習通過將結構學習問題轉化為連續優化問題，為因果推理和決策制定領域帶來了以下進展：

提高因果結構學習的效率： 傳統的因果結構學習方法通常依賴於貪婪搜索或馬爾可夫鏈蒙特卡洛 (MCMC) 等方法，這些方法在高維數據集中效率較低。可微分結構學習可以使用梯度下降等高效的優化算法，顯著提高了因果結構學習的效率，使其能够處理更大規模的數據集。
更精確地估計因果效應： 準確的因果結構是估計因果效應的基礎。可微分結構學習可以學習更精確的因果結構，從而提高因果效應估計的準確性。這對於評估干預措施的效果和制定更有效的決策至關重要。
處理更復雜的數據類型： 可微分結構學習可以更容易地與深度學習等其他機器學習方法相結合，從而處理圖像、文本等更復雜的數據類型。這為因果推理和決策制定開闢了新的應用領域，例如計算機視覺、自然語言處理等。
總之，可微分結構學習的發展為因果推理和決策制定領域帶來了新的可能性。隨著可微分結構學習方法的不斷發展，我們可以預見它將在更多領域發揮重要作用，例如个性化医疗、精准营销、智能交通等。