本論文は、深層ニューラルネットワーク(DNN)の敵対的防御における課題を取り扱っている。従来の敵対的防御手法は一回限りの設定を前提としており、新しい攻撃に順応するためには過去の防御を忘れてしまう問題がある。
本論文では、連続的な敵対的攻撃に対する頑健性を維持する「連続的な敵対的防御」の概念を初めて提案する。具体的には以下の3つの利点を持つ手法「Anisotropic & Isotropic Replay (AIR)」を提案している:
実験結果から、提案手法AIRは従来手法を上回る、あるいは最大値に近い性能を達成できることが示された。また、特徴空間の可視化から、AIRが新旧攻撃を同一クラスタに統合することで、忘却を抑制していることが分かった。
In un'altra lingua
dal contenuto originale
arxiv.org
Approfondimenti chiave tratti da
by Yuhang Zhou,... alle arxiv.org 04-03-2024
https://arxiv.org/pdf/2404.01828.pdfDomande più approfondite