Khái niệm cốt lõi
베이지안 학습 기법을 활용하여 인-분포 데이터에 대한 정확도와 신뢰도, 그리고 아웃-분포 데이터 탐지 성능을 동시에 향상시킬 수 있다.
Tóm tắt
이 논문은 베이지안 신경망(BNN)의 학습 과정에 정규화, 신뢰도 최소화, 선별적 추론 기법을 통합하여 인-분포 데이터에 대한 정확도와 신뢰도, 그리고 아웃-분포 데이터 탐지 성능을 향상시키는 방법을 제안한다.
먼저, 정규화 기반 베이지안 학습(CBNN)을 제안하여 계산 복잡도와 모델 오류로 인한 BNN의 낮은 신뢰도 문제를 해결한다. CBNN은 신뢰도 기반 정규화 항을 자유에너지 손실 함수에 추가하여 인-분포 데이터에 대한 신뢰도를 향상시킨다.
다음으로, CBNN에 아웃-분포 신뢰도 최소화(OCM) 기법을 통합하여 CBNN-OCM을 제안한다. CBNN-OCM은 아웃-분포 데이터에 대한 신뢰도를 낮추어 아웃-분포 데이터 탐지 성능을 향상시킨다.
마지막으로, CBNN-OCM의 인-분포 신뢰도 저하 문제를 해결하기 위해 선별적 신뢰도 학습(SCBNN-OCM)을 제안한다. SCBNN-OCM은 신뢰도와 정확도의 갭이 작은 입력 데이터만을 선별적으로 사용하여 전체적인 신뢰도와 정확도 성능을 향상시킨다.
실험 결과, SCBNN-OCM은 기존 방법들에 비해 인-분포 정확도와 신뢰도, 그리고 아웃-분포 탐지 성능이 가장 우수한 것으로 나타났다. 다만 이를 위해서는 일정 수준의 입력 데이터를 거절해야 한다는 단점이 있다.
Thống kê
인-분포 데이터에 대한 정확도는 CBNN이 가장 높다.
아웃-분포 데이터 탐지 확률은 CBNN-OCM과 SCBNN-OCM이 가장 높다.
SCBNN-OCM은 인-분포 데이터에 대한 신뢰도가 가장 우수하다.
Trích dẫn
"베이지안 신경망(BNN)은 모델 가중치에 대한 분포를 학습하여 모델 수준의 불확실성을 포착할 수 있지만, 계산 복잡도와 모델 오류로 인해 실제로는 신뢰도가 낮을 수 있다."
"아웃-분포 데이터 탐지 성능 향상을 위해서는 인-분포 데이터에 대한 신뢰도 향상만으로는 충분하지 않으며, 아웃-분포 데이터에 대한 신뢰도 최소화가 필요하다."
"선별적 신뢰도 학습은 신뢰도와 정확도의 갭이 작은 입력 데이터만을 선별적으로 사용함으로써 전체적인 신뢰도와 정확도 성능을 향상시킬 수 있다."