本研究では、コンフォーマル予測とモデルの不確実性の関係を探り、この関係を利用して深層学習モデルの校正外れ検出を行う手法を提案した。
まず、深層学習モデルの不確実性を正規化ソフトマックスエントロピーで定量化し、ノイズ環境下でのモデルの挙動を分析した。不確実なモデルはノイズに対して不確実性が増大するが、過信モデルはノイズに対して頑健であることがわかった。
次に、コンフォーマル予測のアダプティブ予測セット(APS)アルゴリズムを用いて、モデルの不確実性とコンフォーマル予測セットの平均サイズの関係を分析した。不確実なモデルではノイズ環境下でコンフォーマル予測セットのサイズが大きくなるが、過信モデルではサイズの変化が小さいことがわかった。
このようにコンフォーマル予測セットのサイズの変化を監視することで、深層学習モデルが校正外れかどうかを検出できることを示した。提案手法は計算コストが低く、オンボード処理に適している。
To Another Language
from source content
arxiv.org
Key Insights Distilled From
by Protim Bhatt... at arxiv.org 05-07-2024
https://arxiv.org/pdf/2405.02634.pdfDeeper Inquiries