Core Concepts
モデルの予測バイアスを軽減し、CTAシナリオでのパフォーマンスを向上させるための提案手法が効果的である。
Abstract
この記事は、Continual Test-Time Adaptation(CTA)におけるモデルの予測バイアスを軽減する方法に焦点を当てています。CTAは、ソース事前学習モデルを連続して変化するターゲットドメインに適応させる難しいタスクです。この論文では、モデルがターゲットデータの分布が急激に変化する際に高度なバイアス予測を示すことが問題であり、提案された手法はこの問題を軽減し、既存のCTA手法と組み合わせて優れたパフォーマンス向上を達成します。具体的には、クラスごとの指数加重移動平均ターゲットプロトタイプとソース分布とターゲット分布を整列させる方法が紹介されています。実験結果から、提案手法は精度向上に貢献し、適応時間への大幅なオーバーヘッドもなく適用可能であることが示されています。
Stats
EATA+OursはEATAよりも低い距離でソースとターゲット間の分布差異を示す。
EATA+Oursではクラスごとの特徴量分布がより効果的にクラスタリングされている。
EATA+OursはEATAよりも低い内部クラス距離を維持しており、一貫した性能向上が見られる。
EATA+OursはP tが実際のクラスクラスター中心を正確に表現しており、P sやP t∗と高い類似性を示す。
Quotes
"Even though EATA shows decent average accuracy in ImageNet-C (49.81%), its prediction is highly biased to favor certain classes more often while avoiding predictions for others."
"EATA+Ours exhibits reduced inclination to favor specific classes, resulting in a more balanced distribution of predictions across classes compared to EATA."