Alapfogalmak
사전 학습된 분류기의 특징 공간에서 에너지 기반 모델을 학습하여 Out-of-Distribution 탐지 성능을 향상시킨다.
Kivonat
이 연구에서는 사전 학습된 심층 분류기의 특징 공간에서 Out-of-Distribution(OOD) 탐지 문제를 다룬다.
특징 공간의 in-distribution(ID) 데이터 밀도를 에너지 기반 모델(EBM)로 학습하면 경쟁력 있는 탐지 결과를 얻을 수 있다는 것을 보였다.
그러나 EBM 학습 중 MCMC 샘플링의 비혼합이 탐지 성능을 저하시킨다는 것을 발견했다.
이를 극복하기 위해 클래스 조건부 가우시안 분포 혼합체에 에너지 기반 보정을 도입했다.
CIFAR-10/CIFAR-100 OOD 탐지 벤치마크에서 KNN 탐지기와 비교하여 좋은 결과를 얻었다.
Statisztikák
특징 공간의 in-distribution 데이터를 모델링하는 것이 중요하다.
에너지 기반 모델의 MCMC 샘플링 비혼합이 탐지 성능을 저하시킨다.
클래스 조건부 가우시안 분포 혼합체에 에너지 기반 보정을 도입하면 성능이 향상된다.
Idézetek
"에너지 기반 모델(EBM)은 사전 학습된 분류기의 특징 공간에서 ID 샘플의 밀도를 추정하는 데 여전히 탐구되지 않고 있다."
"MCMC 기반 샘플링은 특히 고차원 공간에서 모든 모드를 샘플링하는 데 어려움을 겪는 것으로 알려져 있어, 밀도 추정을 해치게 된다."