본 논문은 GPU 서버리스 컴퓨팅 플랫폼의 두 가지 주요 문제점을 해결하기 위한 SAGE 프레임워크를 제안한다.
첫째, 기존 솔루션들은 GPU 함수 호출 시 긴 설정 시간이 소요되는 문제가 있다. SAGE는 데이터 준비와 컨텍스트 생성을 병렬화하여 이 문제를 해결한다.
둘째, 기존 솔루션들은 데이터 로딩 경로의 경합으로 인해 낮은 함수 처리량을 보인다. SAGE는 읽기 전용 메모리 공유와 다단계 리소스 종료 메커니즘을 통해 이 문제를 해결한다.
실험 결과, SAGE는 기존 솔루션 대비 함수 지연 시간을 11.3배, 함수 밀도를 1.22배 향상시켰다.
Naar een andere taal
vanuit de broninhoud
arxiv.org
Belangrijkste Inzichten Gedestilleerd Uit
by Han Zhao,Wei... om arxiv.org 04-24-2024
https://arxiv.org/pdf/2404.14691.pdfDiepere vragen