隨機優化

登入

洞見 - 隨機優化

本研究探討了決策依賴型分佈的隨機優化問題，並提出了一種基於閉環分佈的單調包含動態系統方法來解決此類問題。

本文提出了一種新的隨機優化框架，利用平均百分位上界 (APUB) 來處理分佈模糊性，並通過實證研究證明了其在應對分佈不確定性方面的有效性。

本文提出了一種新的隨機牛頓近端外梯度方法 (SNPE)，用於解決強凸優化問題。與現有的隨機二階方法相比，SNPE 能更快地達到超線性收斂速度，並且在全局和局部收斂方面均有提升。

本文提出了一種結合數據持久性、共軛梯度類型規則和隨機線性搜尋的演算法框架，用於在過參數化狀態下有效利用動量項，以加速解決大規模深度學習中的有限和優化問題。

本文提出了一種名為 RPHA 的變異數正規化漸進對沖演算法 (PHA)，用於解決能源管理系統中的穩健隨機最佳控制問題，並證明了其在實際數據上的有效性。

本文通過將梯度歸一化和軟裁剪算法視為耗散哈密頓系統的離散化，證明了在各種設定下（例如 L 平滑目標函數、重尾噪聲或經驗風險最小化），隨機哈密頓下降法幾乎確定收斂到目標函數的駐點。

本文提出了一種改進的隨機三次牛頓法，通過引入一種特殊的動量項來穩定隨機梯度和Hessian矩陣估計，從而提高了算法在非凸優化問題上的收斂速度和精度，並證明了該方法在任意批次大小下都能夠收斂。

本文提出了一種新的自適應 STORM 方法（Ada-STORM），該方法在比現有方法更弱的假設下，實現了非凸函數的隨機優化的最優收斂速度。

本文提出兩種基於共識演算法的粒子優化方法，用於解決成本函數為隨機映射期望值的優化問題，並通過數值實驗驗證了演算法的有效性。

本文提出了一個適用於多種非線性隨機梯度下降演算法的統一框架，並證明了其在重尾雜訊和廣泛觀察到的雜訊對稱性下的高機率收斂性，且無需對雜訊矩進行任何假設。

關於我們

產品

資源