Core Concepts
ミラー降下法に基づく変分推論をガウス過程ベースの少量ショット分類に統合することで、非共役推論の課題に取り組む。非ユークリッド幾何学を活用することで、対応する多様体に沿った最急降下方向を提供し、収束を加速する。また、変分分布のパラメータ化に関する不変性も示す。
Abstract
本論文は、ベイズ少量ショット分類の分野における重要な課題に取り組んでいる。具体的には以下の通りである:
ガウス過程分類におけるベイズ推論の課題である非共役推論に取り組むため、ミラー降下法に基づく変分推論をガウス過程ベースの少量ショット分類に統合する。これにより、最適化問題を共役計算で解くことができる。
ミラー降下法は非ユークリッド幾何学を活用し、対応する多様体に沿った最急降下方向を提供することで、収束を加速する。また、変分分布のパラメータ化に関する不変性も示す。
実験結果から、提案手法は分類精度、不確実性の定量化、収束速度の面で、ベースラインモデルと比較して優れた性能を示すことが分かった。さらに、ハイパーパラメータや構成要素の影響についても分析した。
Stats
少量ショット分類タスクにおいて、提案手法は既存手法と比較して高い分類精度を達成している。
提案手法は、期待較正誤差(ECE)と最大較正誤差(MCE)の両指標において、既存手法と比較して優れた不確実性定量化性能を示している。
提案手法の内部ループの最適化過程では、既存の勾配降下法に比べて、より高い収束速度を示している。
Quotes
"ミラー降下法は非ユークリッド幾何学を活用し、対応する多様体に沿った最急降下方向を提供することで、収束を加速する。"
"ミラー降下法は変分分布のパラメータ化に関する不変性も示す。"