이 논문은 점수 기반 확산 모델의 신경 미분 방정식을 효율적으로 해결하기 위한 저항성 메모리 기반 하드웨어 솔루션을 제안한다.
첫째, 저항성 메모리를 활용한 인-메모리 컴퓨팅 아키텍처를 통해 von Neumann 병목 현상을 극복하고 데이터 전송 오버헤드를 최소화할 수 있다. 이를 통해 생성 속도와 에너지 효율성을 크게 향상시킬 수 있다.
둘째, 제안하는 시스템은 시간 연속적이고 아날로그적인 방식으로 신경 미분 방정식을 해결한다. 이를 통해 디지털 플랫폼에서 발생하는 이산화 및 양자화 오류를 방지할 수 있다.
셋째, 제안하는 시스템은 저항성 메모리의 아날로그 노이즈를 활용하여 확산 모델의 다양성을 높일 수 있다. 이는 인간 두뇌의 시간 연속적이고 확률적인 특성과 부합한다.
실험 결과, 제안하는 하드웨어 시스템은 동일한 생성 품질 하에서 무조건적 생성과 조건부 생성 작업에서 각각 64.8배, 156.5배의 생성 속도 향상과 5.2배, 4.1배의 에너지 소비 감소를 달성했다. 이는 점수 기반 확산 모델의 하드웨어 가속화를 위한 새로운 접근법을 제시한다.
Naar een andere taal
vanuit de broninhoud
arxiv.org
Belangrijkste Inzichten Gedestilleerd Uit
by Jichang Yang... om arxiv.org 04-09-2024
https://arxiv.org/pdf/2404.05648.pdfDiepere vragen