本論文は、バックドア攻撃におけるサンプル選択の効率を高めるための新しい手法を提案している。従来のプロキシ攻撃に基づくサンプル選択手法は、実際の攻撃時の設定と異なる場合に性能が大きく低下するという問題がある。
提案手法では、クリーンサンプルと対応する毒素サンプルの類似度と、毒素サンプルセットの多様性に着目する。具体的には、事前学習した特徴抽出器を用いてサンプル間の類似度を計算し、高い類似度を持つサンプルを選択する。さらに、選択したサンプルの中から一定の多様性を持つサンプルをランダムに抽出することで、効率的な毒素セットを構築する。
提案手法は、CIFAR-10、Tiny-ImageNet、CIFAR-100の各データセットで評価され、従来手法と比較して高い攻撃成功率を達成している。また、提案手法はプロキシ攻撃を必要としないため、計算コストが大幅に削減されることが示されている。
理論的な分析では、提案手法の効果を能動学習の観点とニューラルタンジェントカーネルの観点から説明している。これらの分析により、提案手法が効率的な毒素サンプルを選択できる理由が明らかになっている。
翻譯成其他語言
從原文內容
arxiv.org
深入探究