本研究提出了一種基於馬可夫過程的數學框架,通過最小化資訊損失,將脈衝神經網路簡化為微分方程式,從而為分析和預測神經網路動態提供了一種系統性的方法。
本文提出了一種基於小波的連續生成神經網路(CGNN)架構,並證明了其在解決反向問題上的穩定性。
儘管圖神經網路 (GNN) 在圖表徵學習領域取得了顯著的成功,但對於這些模型學習到的節點表徵中究竟編碼了哪些結構信息仍不清楚。本文通過研究四種標準 GNN 模型學習到的節點表徵來解決這一問題,發現某些模型會為所有節點生成相同的表徵,而其他模型學習到的表徵則與從節點開始的特定長度路徑的概念相關聯。
神經形態運算領域缺乏標準化基準測試,阻礙了技術進步的準確衡量和不同方法間的性能比較,而 NeuroBench 旨在通過提供一個通用的評估框架來解決這個問題。
參數高效微調(PEFT)方法通過僅訓練模型參數的一小部分,為微調大型語言模型提供了一種高效的解決方案,在資源受限的環境中尤其有用。
本文探討如何在神經網路中學習具有離散潛在結構的表徵,並分析了三種主要策略:連續放鬆、替代梯度和概率估計,揭示了它們之間的聯繫、差異和適用性。
深度神經網路在學習結構化密度(如圖像、音訊、影片和文字應用程式中出現的密度)方面,實現了與維度無關的收斂速度,有效克服了維度災難的問題。
與傳統方法和物理約束神經網路 (PINN) 相比,本文提出的基於神經網路的差分方程式 (NNDE) 方法可以顯著減少計算拓撲孤子解所需的時間,同時保持相當的精度。
針對光學神經網路 (ONN) 易受熱故障注入攻擊的威脅,本文提出了 SecONN,一種具備同步攻擊檢測功能的新型 ONN 架構,並透過波長分割擾動 (WDP) 技術提高檢測準確率。
本文探討了在物理信息神經網路 (PINN) 中使用可學習的激活函數來求解偏微分方程式 (PDE) 的效果,並比較了傳統多層感知器 (MLP) 使用固定和可學習激活函數與使用可學習基函數的 Kolmogorov-Arnold 網路 (KAN) 的效果。