양자화 인식 학습에서의 일반화 능력에 대한 연구

양자화는 모델 가중치와 활성화 함수를 더 적은 비트로 표현하여 메모리 사용량, 계산 요구량, 지연 시간을 낮출 수 있다. 이 연구에서는 양자화된 신경망의 일반화 특성을 조사한다. 특히 양자화가 정규화 형태로 작용한다는 것을 이론적으로 보이고, 양자화 노이즈의 양에 따른 일반화 경계를 도출한다. 이를 CIFAR-10, CIFAR-100, ImageNet 데이터셋의 다양한 모델 아키텍처에 대한 실험을 통해 검증한다.