핵심 개념
模擬光子神經網絡中的非理想性可以作為一種內建的低成本防禦機制,抵禦對抗性攻擊。
초록
本文探討了模擬光子神經網絡在面對惡意權重攻擊時的抗性,並探索了光子加速器非理想性的內建保護作用。
作者提出了一個協同防禦框架,包括基於量化啟發的截斷互補單元權重編碼來最小化權重敏感性,以及基於聚類的權重鎖定技術來優化檢測精度、準確性恢復和內存效率。
該框架在集成預攻擊單元保護和後攻擊權重鎖定的情況下,可以在僅3%的內存開銷下維持近乎理想的推理準確度。
통계
只有幾十次最高有效位(MSB)的比特翻轉就會嚴重降低準確度。
只需幾十次比特翻攻擊就會嚴重降低準確度。
인용구
"模擬光子神經網絡的非理想性一直被視為不受歡迎的硬件限制,而在本工作中,我們重新審視了它們作為內在低成本防禦者的作用,將可靠性作為硬件/軟件協同設計空間的新維度。"
"我們提出了一個協同防禦框架,為光子AI硬件提供預攻擊單元保護和後攻擊權重鎖定,在僅3%的內存開銷下維持近乎理想的推理準確度。"