本論文では、ニューラルネットワークの出力を説明する方法と不確実性推定方法を組み合わせることで、ニューラルネットワークの説明の不確実性を定量化するパイプラインを提案している。
まず、不確実性推定手法を用いてニューラルネットワークをトレーニングする。これにより、入力に対する出力分布を生成することができる。次に、この出力分布に対して説明手法を適用し、説明分布を生成する。
この説明分布の平均、標準偏差、変動係数を計算することで、説明の不確実性を定量化することができる。平均は説明の重要度を示し、標準偏差は説明の不確実性を示す。変動係数は標準偏差と平均を組み合わせた指標で、説明の不確実性を簡潔に表現できる。
さらに、従来の画素削除/挿入メトリックを説明分布に適用することで、説明の品質を評価することができる。
提案手法は、画像分類タスク(CIFAR-10、FER+)と回帰タスク(California Housing)で検証されており、Guided Backpropagationが最も信頼性の高い説明を生成することが示されている。
他の言語に翻訳
原文コンテンツから
arxiv.org
深掘り質問