이 논문은 테스트 시간 적응(TTA)의 잠재적 취약성을 조사하고 중앙값 배치 정규화(MedBN)라는 새로운 방어 메커니즘을 제안한다.
TTA는 훈련 데이터와 테스트 데이터 간의 예기치 않은 분포 변화로 인한 성능 저하를 해결하는 유망한 솔루션이다. TTA는 테스트 배치의 통계를 활용하여 모델을 적응시킨다.
그러나 TTA의 적응성은 모델을 악의적인 예제에 취약하게 만든다. 악의적인 샘플을 포함하는 테스트 배치는 테스트 배치 통계를 조작할 수 있으며, 이는 다른 (양호한) 샘플에 대한 예측에도 악영향을 미칠 수 있다.
이에 대응하여 우리는 MedBN을 제안한다. MedBN은 배치 정규화(BN) 계층의 통계 추정에서 중앙값의 강건성을 활용한다. 이를 통해 기존 TTA 프레임워크와 원활하게 통합되며, 벤치마크 데이터셋에서 다양한 공격 시나리오에서 기존 접근법보다 강력한 성능을 보여준다.
우리는 이론적 분석과 광범위한 실험을 통해 평균 기반 통계 추정의 취약성과 중앙값 기반 추정의 강건성을 입증한다. 이를 통해 MedBN이 악의적인 샘플에 대한 강력한 방어 기능을 제공함을 보여준다.
To Another Language
from source content
arxiv.org
Key Insights Distilled From
by Hyejin Park,... at arxiv.org 03-29-2024
https://arxiv.org/pdf/2403.19326.pdfDeeper Inquiries