Concepts de base
入力依存性スムージングは次元の呪いに苦しむことを示し、厳格な制約下で使用される。σ(x)関数は非常に小さな半弾性を持つように強制される。
Résumé
深層ニューラルネットワークの脆弱性に対する解決策として、ランダムスムージングが注目されています。しかし、入力依存性スムージングは次元の呪いに苦しむことが示されており、高次元領域では厳格な制約が課されます。σ(x)関数は非常に小さな半弾性を持たなければならず、画像データセットの幾何学的特性と一致しない可能性があります。
Stats
Cohen et al. (2019) によるRSメソッドの評価:σ = 0.12, 0.25, 0.50
CIFAR10およびMNISTデータセットでのトレーニング時標準偏差レベル:σtr = 0.126, 0.263, 0.53(CIFAR10)、σtr = 0.124, 0.258, 0.517(MNIST)
Citations
"Clearly, the usage of a global, constant σ is suboptimal."
"Input-dependent randomized smoothing suffers from the curse of dimensionality."
"Our concrete design of the σ(x) function reasonably mitigates the truncation issue connected to constant-σ RS."