Centrala begrepp
ノイズベースの防御は、強化学習を用いた適応型の攻撃者に対して、特に視覚的にノイズの多いクラスにおいて、回避攻撃を助長する可能性がある。
Sammanfattning
ノイズベース防御の落とし穴:強化学習を用いた回避攻撃への脆弱性
Bakos, S., Madani, P., & Davoudi, H. (2024). Noise as a Double-Edged Sword: Reinforcement Learning Exploits Randomized Defenses in Neural Networks. arXiv preprint arXiv:2410.23870v1.
本論文は、敵対的機械学習において、ノイズベースの防御が強化学習(RL)ベースの攻撃者に対して逆効果になる可能性があるという、直感に反する現象を調査する。