Core Concepts
레이어 앙상블 평균화 기법을 통해 결함이 있는 비메모리 기반 인공 신경망의 성능을 소프트웨어 수준까지 향상시킬 수 있다.
Abstract
이 연구는 비메모리 기반 인공 신경망 가속기의 성능 향상을 위한 레이어 앙상블 평균화 기법을 제안하고 실험적으로 입증한다.
주요 내용은 다음과 같다:
지속 학습 문제에 대한 3층 완전 연결 퍼셉트론 네트워크를 소프트웨어에서 사전 학습하고 양자화한다.
결함이 있는 20,000개 ReRAM 소자 기반 하드웨어 플랫폼에 사전 학습된 네트워크를 매핑하기 위해 레이어 앙상블 평균화 기법을 사용한다.
레이어 앙상블 평균화를 통해 하드웨어 네트워크의 성능이 소프트웨어 수준까지 향상되는 것을 확인한다.
시뮬레이션과 실험 결과를 통해 제안 기법의 효과를 입증한다.
Stats
하드웨어 네트워크의 평균 다중 작업 분류 정확도가 61%에서 72%로 향상되었다.
이는 소프트웨어 기준선 대비 1% 미만의 성능 저하에 해당한다.
Quotes
"레이어 앙상블 평균화는 결함이 있는 비메모리 기반 네트워크의 성능을 소프트웨어 수준까지 신뢰성 있게 향상시킬 수 있다."
"제안 기법을 통해 사전 학습된 신경망 솔루션을 결함이 있는 하드웨어 크로스바에 매핑하고 추론 성능을 소프트웨어 수준으로 유지할 수 있다."