핵심 개념
MICSim은 혼합 신호 메모리 기반 AI 가속기의 소프트웨어 성능과 하드웨어 오버헤드를 조기에 평가할 수 있는 오픈 소스 사전 회로 시뮬레이터이다.
초록
MICSim은 다음과 같은 주요 특징을 가지고 있다:
- CNN과 Transformer 모델을 모두 지원하는 모듈식 설계로, 새로운 모델 및 설계에 대한 확장성이 높다.
- 양자화 알고리즘, 아키텍처, 회로, 메모리 소자 등 다양한 설계 요소를 독립적으로 모델링하여 설계 공간 탐색을 용이하게 한다.
- PyTorch와 HuggingFace Transformers 프레임워크를 활용하여 사용자 친화적이며, 최적화 전략과 결합하여 설계 공간 탐색을 수행할 수 있다.
- 통계 기반 평균 모드를 제안하여 NeuroSim 대비 9~32배 빠른 시뮬레이션 속도를 달성한다.
MICSim은 CNN과 Transformer 기반 가속기 설계에 대한 사례 연구를 통해 그 유용성을 입증하였다.
통계
CNN 모델 VGG8에서 WAGE 양자화 알고리즘을 사용하면 3비트 정밀도로 90%의 정확도를 달성할 수 있다.
CNN 모델 ResNet18에서 LSQ 양자화 알고리즘을 사용하면 4비트 정밀도로 80%의 정확도를 달성할 수 있다.
BERT 모델에서 I-BERT 양자화 알고리즘을 사용하면 8비트 정밀도로 90.02%의 정확도를 달성할 수 있다.
인용구
"MICSim은 CNN과 Transformer 모델을 모두 지원하는 모듈식 설계로, 새로운 모델 및 설계에 대한 확장성이 높다."
"MICSim은 양자화 알고리즘, 아키텍처, 회로, 메모리 소자 등 다양한 설계 요소를 독립적으로 모델링하여 설계 공간 탐색을 용이하게 한다."
"MICSim은 통계 기반 평균 모드를 제안하여 NeuroSim 대비 9~32배 빠른 시뮬레이션 속도를 달성한다."