Temel Kavramlar
본 연구는 실용적인 비분해 목적 함수를 최적화하기 위해 선별적 Mixup 기반 미세 조정 기법인 SelMix를 제안한다. SelMix는 특정 클래스 간 Mixup을 선별적으로 수행하여 원하는 비분해 목적 함수를 최적화한다.
Özet
본 연구는 실용적인 비분해 목적 함수를 최적화하기 위한 SelMix 기법을 제안한다. 기존 방법들은 정확도 최대화에 초점을 맞추거나 비분해 목적 함수 최적화에 집중하여 평균 성능이 저하되는 문제가 있었다.
SelMix는 Mixup 기반 미세 조정 기법으로, 특정 클래스 간 Mixup을 선별적으로 수행하여 원하는 비분해 목적 함수를 최적화한다. 이를 위해 Mixup 손실에 대한 방향 벡터를 정의하고, 이를 활용하여 목적 함수 향상을 위한 Mixup 분포를 설계한다.
SelMix는 다양한 비분해 목적 함수(최소 재현율, 조화 평균 재현율, 제약 조건부 평균 재현율 등)에 대해 기존 방법들을 크게 능가하는 성능을 보인다. 특히 레이블 분포와 무레이블 데이터 분포가 다른 실제 상황에서도 SelMix가 강건한 성능을 보인다. 또한 지도 학습 환경에서도 SelMix를 활용하여 비분해 목적 함수 최적화가 가능함을 확인하였다.
İstatistikler
클래스 간 불균형 데이터셋에서 SelMix는 최소 재현율을 CIFAR-10에서 5%, CIFAR-100에서 9.8% 향상시켰다.
SelMix는 평균 재현율 또한 기존 방법들과 유사한 수준으로 유지하면서 비분해 목적 함수를 최적화할 수 있었다.
레이블 분포와 무레이블 데이터 분포가 다른 실제 상황에서도 SelMix가 기존 방법들을 크게 능가하는 성능을 보였다.
Alıntılar
"SelMix는 특정 클래스 간 Mixup을 선별적으로 수행하여 원하는 비분해 목적 함수를 최적화한다."
"SelMix는 다양한 비분해 목적 함수에 대해 기존 방법들을 크게 능가하는 성능을 보인다."
"SelMix는 레이블 분포와 무레이블 데이터 분포가 다른 실제 상황에서도 강건한 성능을 보인다."