
本研究提出了一種名為 AZO-SGD-HS 的新型梯度無關演算法，該演算法利用高階平滑性條件並針對過度參數化機制設計，以解決在機器學習等領域中，目標函數只能透過數值模擬計算的凸隨機優化問題。


coremsg

高階平滑性與過度參數化機制下加速零階-sgd-的研究


高階平滑性與過度參數化機制下加速零階 SGD 的研究



本論文提出了一種針對具有耦合約束的多代理系統設計的分佈式零階反饋優化算法，利用約束外推技術和平均一致性框架來有效地解決去中心化環境中耦合約束帶來的挑戰。



多代理系統中的零階反饋優化：處理耦合約束



本研究提出兩種基於隨機零階估計器的輕量級變異縮減零階近端演算法，並結合兩種新的黑盒縮減框架，有效降低了求解凸和非凸問題的函數查詢複雜度。
