Core Concepts
후속 연구에서 사전을 통해 차가운 사후를 대체할 수 있는 방법을 탐구합니다.
Abstract
이미지 분류를 위한 벤치마크 데이터셋에서의 레이블 노이즈 문제
사후를 조절하여 데이터의 불확실성을 제어하는 방법
DirClip 사전을 소개하고, 이를 통해 차가운 사후의 결과를 일치시킴
확신을 부여하는 사전 분포의 중요성과 이에 대한 이론적 근거
사전 분포의 경사 문제와 안정적인 훈련 방법
차가운 사후와 신뢰 사전의 비교
에너지 효율적인 방법론에 대한 고려
Stats
벤치마크 데이터셋에서의 훈련 정확도: 88%에서 99%로 향상
DirClip 사전을 사용한 CIFAR-10 데이터셋에서의 테스트 정확도: 89%에서 거의 94%로 향상
신뢰 사전과 냉소 사후의 밀도가 영점에 수렴
Quotes
"우리는 사전을 통해 차가운 사후의 결과를 일치시킬 수 있다는 것을 보여줍니다." - Kapoor et al. (2022)
"신뢰 사전은 높은 예측 신뢰도를 직접 부여하는 사전을 설계할 수 있게 합니다." - Izmailov et al. (2021b)