Core Concepts
コンピュータビジョンモデルの堅牢性を向上させる方法について包括的な概要を提供します。
Abstract
コンピュータビジョンモデルの一般的な変換に対する堅牢性向上方法について包括的な調査が行われました。
データ拡張、表現学習、知識蒸留、ネットワーク構成の4つのグループに分類された手法が紹介されました。
データ拡張では基本的な変換や高度な変換、ターゲット指向型変換が取り上げられました。
表現学習では自己教師ありおよび教師あり対比学習が強調され、不適切な特徴を除外して堅牢性を向上させることが目指されました。
知識蒸留では教師ネットワークから生徒ネットワークへ情報を伝達し、画像変形に対する不変情報を抽出しました。
ネットワーク構成では受容野の修正や正規化層、注意機構の利用が取り上げられ、共通画像変形に対する堅牢性を改善しました。
Stats
CIFAR-CとImageNet-Cは19種類および15種類の合成変換で構成されています。
Mixupは2つのソース画像を線形補間して生成します。
Self-supervised contrastive learningは同じソース画像から生成された画像ペアを学習します。
Quotes
"自己教師ありコントラスティブラーニングは、ソース画像とその増強バージョンの間で似たような潜在表現を学習させます。"
"知識蒸留フレームワークでは少なくとも2つのモデルが必要であり、1つは教師として、もう1つは生徒として情報を蒸留します。"