Adversarial Training Improvement with Vulnerability-Aware Perturbation Budget

Concepts de base

Individual natural examples exhibit varying vulnerabilities, prompting the need for adaptive perturbation radii in adversarial training.

Résumé

最近のDeep Neural Networks（DNNs）は、印象的な成功を収めていますが、DNNsの脆弱性に対する懸念が高まっています。この記事では、Adversarial Training（AT）において一定の摂動半径で生成された敵対的例を使用する代わりに、個々の自然例の脆弱性に基づいて摂動半径を割り当てる新しい方法が提案されました。提案された手法は、既存のAT手法のパフォーマンスを向上させることが示されました。
この研究では、MWPBとSDWPBという2つの新しい摂動予算割り当て関数が導入されました。これらの関数は、各自然例の脆弱性を評価し、その情報を利用して敵対的例を生成する際に摂動半径を決定します。実験結果は、提案手法がさまざまなデータセットや異なる攻撃下で人気のあるAT手法のパフォーマンスを一貫して向上させることを示しています。

Stats

arXiv:2403.04070v1 [cs.LG] 6 Mar 2024

Citations

Idées clés tirées de

Improving Adversarial Training using Vulnerability-Aware Perturbation Budget

by Olukorede Fa... à arxiv.org 03-08-2024

https://arxiv.org/pdf/2403.04070.pdf

Questions plus approfondies

自然例ごとに異なる摂動半径を割り当てることは、モデルのロバスト性向上にどのように貢献しますか？

提案されたMWPBおよびSDWPB手法では、自然例の固有の脆弱性を考慮して個々の摂動半径を割り当てます。これにより、特定の自然例から生成された敵対的例に対して適切な摂動が与えられ、内部最大化ステップで効果的な敵対的例が作成されます。結果として、より脆弱な自然例から生成された敵対的例は相対的に大きな損失増加をもたらし、逆に低い損失値を持つ頑健な自然例から生成された敵対的例は比較的小さな損失増加を引き起こします。
このアプローチによって、各サンプルが最適化中に異なる損失増分を示すことが可能となります。したがって、一律の摂動半径では不十分だった既存手法と比較して、個々のサンプルごとに異なる摂動半径を割り当てることでモデル全体のロバスト性能向上が実現されます。