SecONN：一種具備同步熱故障注入攻擊檢測功能的光學神經網路架構

Grunnleggende konsepter

針對光學神經網路 (ONN) 易受熱故障注入攻擊的威脅，本文提出了 SecONN，一種具備同步攻擊檢測功能的新型 ONN 架構，並透過波長分割擾動 (WDP) 技術提高檢測準確率。

Sammendrag

研究背景

人工智慧 (AI) 的快速發展促進了對高效能運算的需求，而基於矽光子的 AI 加速器 (SPAA) 因其高能效和低延遲性被視為很有前景的解決方案。
然而，現有研究大多集中於提升 SPAA 的效能，而忽略了其安全性。
本文指出 SPAA 面臨著熱故障注入攻擊的威脅，攻擊者可透過局部加熱光學元件來干擾 SPAA 的運作，導致錯誤的預測結果。
SecONN 架構

為了解決上述安全問題，本文提出了 SecONN，這是一種能夠在進行推論運算的同時同步檢測熱故障注入攻擊的新型 ONN 架構。
SecONN 主要包含三個流程：

訓練: 採用平衡輸出分割技術，在訓練過程中嵌入平衡校驗碼，用於檢測攻擊。
權重轉換: 將 ONN 的權重值轉換為馬赫-曾德爾干涉儀 (MZI) 的相移值。
推論: 利用平衡輸出分割技術和故障注入模擬器進行推論，並透過波長分割擾動 (WDP) 技術放大異常相移的影響，提高檢測準確率。
波長分割擾動 (WDP) 技術

WDP 技術利用不同波長的光輸入 ONN，由於 MZI 的相移值會隨波長變化，因此可產生多組不同的校驗碼結果，進一步提高攻擊檢測的靈敏度。
模擬結果

本文透過模擬實驗驗證了 SecONN 的有效性。
結果顯示，在單一波長模式下，SecONN 的平均攻擊導致錯誤預測召回率為 86.6%。
而採用 WDP 技術後，平均召回率提升至 88.7%，證明 WDP 技術能夠有效提高攻擊檢測的準確率。
結論

本文提出了一種具備同步熱故障注入攻擊檢測功能的光學神經網路架構 SecONN，並透過 WDP 技術進一步提高了檢測的準確率。
SecONN 為提升光學神經網路的安全性提供了新的思路，具有重要的研究意義和應用價值。

Statistikk

在沒有攻擊的情況下，模型的識別準確率為 97.8%。
使用平衡輸出分區後，模型的識別準確率為 97.7%。
閾值被設定為在沒有攻擊的情況下誤報率為 5%。
模擬中向信號添加了標準差為 0.02 的高斯噪聲。
模擬中對激光源和零差檢測進行了 4 位元量化。
MZI-VMM 可以執行 16 × 16 大小的矩陣運算，權重信號量化為 4 位元。
WDP 中使用了 1550 ± 50 nm 的波長（即圖 7c 中的 λ1 = 1550 nm，λ2 = 1500 nm，λ3 = 1600 nm）。
單一波長模式下，平均召回率為 86.6%，最低召回率為 59.7%。
多波長模式下，平均召回率為 88.7%，最低召回率為 60.3%。

Viktige innsikter hentet fra

SecONN: An Optical Neural Network Framework with Concurrent Detection of Thermal Fault Injection Attacks

by Kota Nishida... klokken arxiv.org 11-25-2024

https://arxiv.org/pdf/2411.14741.pdf

Dypere Spørsmål

除了熱故障注入攻擊之外，光學神經網路還面臨哪些其他的安全威脅，如何應對？

除了熱故障注入攻擊之外，光學神經網路 (ONN) 還面臨著其他幾種安全威脅：

旁路攻擊 (Side-Channel Attacks): ONN 的物理特性，例如功耗、電磁輻射和光信號洩漏，都可能被攻擊者利用來獲取敏感信息，例如模型參數或正在處理的數據。

應對方法: 可以採用屏蔽技術來減少電磁輻射，使用差分功耗分析等技術來抵抗功耗分析攻擊，並對光信號進行加密或混淆處理以防止信息洩露。

對抗性攻擊 (Adversarial Attacks): 通過在輸入數據中添加精心設計的微小擾動，攻擊者可以誤導 ONN 做出錯誤的預測。

應對方法: 可以使用對抗性訓練來增強 ONN 對抗擾动的鲁棒性，或使用輸入預處理技術來檢測和消除輸入數據中的擾動。

木馬攻擊 (Trojan Attacks): 攻擊者可以在 ONN 的設計或製造過程中植入惡意電路，這些電路在特定條件下會被觸發，從而導致 ONN 發生故障或洩露信息。

應對方法: 需要對 ONN 的供應鏈進行嚴格的安全性管理，並對 ONN 進行定期的安全審計和測試，以及時發現和清除潛在的木馬電路。

拒絕服務攻擊 (Denial-of-Service Attacks): 攻擊者可以通過發送大量無效數據或利用 ONN 的漏洞，導致 ONN 過載或崩潰，從而無法正常提供服務。

應對方法: 可以使用流量控制和異常檢測技術來防止 ONN 過載，並及時修補 ONN 的漏洞，以降低遭受攻擊的風險。

SecONN 架構在實際應用中可能會面臨哪些挑戰，例如效能開銷和成本控制？

SecONN 架構在實際應用中可能會面臨以下挑戰：

效能開銷: SecONN 的多波長擾動 (WDP) 技術需要使用多個波長的光信號進行計算，這會增加計算的複雜度和延遲。此外，額外的校驗和計算也會帶來一定的效能開銷。

應對方法: 可以通過優化算法和硬件設計來降低 WDP 技術的效能開銷，例如使用更高效的波長選擇器和校驗和計算電路。

成本控制: SecONN 架構需要使用額外的硬件資源，例如多個激光器、波長選擇器和校驗和計算電路，這會增加 ONN 的製造成本。

應對方法: 可以通過集成更多的功能到單個芯片上来降低硬件成本，例如使用片上激光器和波導集成電路。

校驗和阈值的設定: 校驗和阈值的設定需要在誤報率和漏報率之間取得平衡。如果阈值設定過低，會導致誤報率升高；如果阈值設定過高，則會導致漏報率升高。

應對方法: 可以通過機器學習等方法來動態調整校驗和阈值，以在不同的應用場景下達到最佳的檢測效果。

如果將 SecONN 的設計理念應用於其他類型的 AI 加速器，例如基於電阻式記憶體的加速器，是否也能夠有效提升其安全性？

將 SecONN 的設計理念應用於其他類型的 AI 加速器，例如基於電阻式記憶體 (RRAM) 的加速器，在一定程度上也能夠有效提升其安全性。

基於校驗和的錯誤檢測: 與光學信號類似，RRAM 的電阻狀態也容易受到外部攻擊的影響。可以借鉴 SecONN 中基於校驗和的錯誤檢測方法，在 RRAM 加速器中添加額外的校驗位，並在計算過程中實時監控校驗和的變化，以檢測潛在的攻擊。
多狀態擾動: 類似於 SecONN 的 WDP 技術，可以設計多狀態擾動技術，通過改變 RRAM 的工作電壓或電流等參數，使其在不同的狀態下進行計算，並比較不同狀態下的計算結果，以提高對攻擊的檢測靈敏度。
然而，由於 RRAM 加速器與 ONN 的物理特性和工作原理存在差異，因此需要針對 RRAM 加速器的具體特點進行設計和優化，才能更好地提升其安全性。例如，需要考慮 RRAM 的讀寫延遲、耐久性和可靠性等因素，以及 RRAM 陣列的結構和佈局等因素。