核心概念
バイアス対比ペアの共通特徴を調査し、入力画像の相対的に過小活用された固有特徴を強化することで、モデルが固有特徴に基づいて予測するよう導く。
摘要
本論文は、画像分類タスクにおいて、データセットのバイアスに起因して、モデルが本質的な特徴ではなく、偏った特徴に依存して予測してしまう問題に取り組む。
具体的には以下の手順で解決を図る:
- バイアス対比ペア(バイアス関連サンプルと非バイアスサンプル)の共通特徴を抽出する。
- 共通特徴の中から、入力画像に対して相対的に過小活用されている固有特徴を特定する。
- 特定した固有特徴を強調するガイダンス重み(IE重み)を計算し、モデルの学習に活用する。
バイアス対比ペアを構築するために、バイアスモデルの損失の変化を追跡して非バイアスサンプルを特定する「バイアスネガティブ(BN)スコア」を提案する。
実験の結果、提案手法は既存手法を上回る性能を示し、モデルが固有特徴に基づいて予測するようになることが確認された。
統計資料
多くの訓練サンプルでは、バイアス属性(例: 空)が目標クラス(例: 飛行機)と強く相関しているため、モデルはバイアス属性に依存して予測してしまう。
一方、バイアス属性のないサンプル(例: 滑走路上の飛行機)の予測は困難になる。
引述
"深層ニューラルネットワークは、データセットのバイアスが存在する場合、目標クラスを本質的に定義する固有属性ではなく、偶発的に相関した属性(バイアス属性)に依存して予測する傾向がある。"
"バイアス除去の目的は、モデルが偏った属性ではなく、本質的な属性に基づいて学習するよう促すことである。"