이 논문은 도메인 일반화(Domain Generalization, DG) 문제에 대한 개선된 기준선 ERM++를 제안한다. DG는 새로운 데이터 분포에 일반화할 수 있는 모델을 개발하는 것을 목표로 한다.
저자들은 먼저 기존 ERM 기준선의 한계를 분석한다. ERM은 단순히 소스 도메인의 경험적 위험을 최소화하는 것만으로도 대부분의 기존 DG 방법들을 능가할 수 있다는 것이 밝혀졌다. 그러나 ERM에는 추가적으로 튜닝할 수 있는 하이퍼파라미터들이 있다.
따라서 저자들은 이러한 추가 하이퍼파라미터들을 튜닝하여 ERM의 성능을 더욱 향상시킨다. 구체적으로 다음 3가지 원칙에 따라 튜닝을 수행한다:
이러한 ERM++ 기준선은 ResNet-50과 ViT-B 모델 모두에서 기존 ERM 대비 5-15% 향상된 성능을 보인다. 또한 ERM++는 최신 SOTA 방법들을 능가하는 성능을 달성한다. 이는 단순한 기준선 개선만으로도 도메인 일반화 성능을 크게 높일 수 있음을 보여준다.
To Another Language
from source content
arxiv.org
Key Insights Distilled From
by Piotr Teterw... at arxiv.org 03-28-2024
https://arxiv.org/pdf/2304.01973.pdfDeeper Inquiries