Core Concepts
ホワイトボックス説明手法は勾配情報に含まれる高周波ノイズのために性能が低下するが、適切なカットオフ周波数でフィルタリングすることで大幅に改善できる。
Abstract
本研究では、ホワイトボックス説明手法とブラックボックス説明手法の性能の違いを分析しました。
- ホワイトボックス手法は、入力画像の勾配情報を使用するため、高周波成分が多く含まれる傾向にあります。一方、ブラックボックス手法は高周波成分が少ない特徴を持ちます。
- 勾配情報に含まれる高周波成分は、ネットワーク内のマックスプーリング操作によって生成されることが分かりました。
- そこで、FORGradと呼ばれる手法を提案しました。FORGradは、ネットワーク構造とattribution手法に応じて最適なカットオフ周波数を決定し、勾配情報の高周波成分をフィルタリングします。
- 実験の結果、FORGradの適用によってホワイトボックス手法の性能が大幅に向上し、ブラックボックス手法と肩を並べるまでになりました。さらに、ホワイトボックス手法はブラックボックス手法に比べて計算コストが低いという利点も示されました。
Stats
ホワイトボックス手法は、ブラックボックス手法と比べて勾配情報に高周波成分が多く含まれる。
マックスプーリング操作がネットワーク内で勾配の高周波成分を増幅する主な要因である。
FORGradによる最適なカットオフ周波数の設定により、ホワイトボックス手法の性能が大幅に向上する。
Quotes
"ホワイトボックス手法は、ブラックボックス手法と比べて勾配情報に高周波成分が多く含まれる傾向にある。"
"マックスプーリング操作がネットワーク内で勾配の高周波成分を増幅する主な要因である。"
"FORGradによる最適なカットオフ周波数の設定により、ホワイトボックス手法の性能が大幅に向上する。"