핵심 개념
Radical-Cylon은 다양한 고성능 컴퓨팅 플랫폼에서 데이터 엔지니어링 및 딥러닝 프레임워크를 효율적으로 실행할 수 있는 통합 시스템입니다.
초록
Radical-Cylon은 데이터 엔지니어링과 딥러닝 애플리케이션을 확장 가능한 고성능 컴퓨팅 시스템에서 실행할 수 있는 통합 솔루션입니다.
- Cylon 프레임워크와 RADICAL-Pilot 런타임 시스템을 통합하여 이기종 실행 환경을 제공합니다.
- Cylon은 데이터 엔지니어링을 위한 고성능 데이터 프레임워크이며, RADICAL-Pilot은 다양한 HPC 플랫폼에서 애플리케이션을 효율적으로 실행할 수 있는 유연한 런타임 시스템입니다.
- Radical-Cylon은 Cylon 작업을 RADICAL-Pilot을 통해 실행하며, 이를 통해 이기종 MPI 통신자를 구축하고 관리할 수 있습니다.
- 실험 결과, Radical-Cylon은 Bare-Metal Cylon과 유사한 성능을 보이며, 일부 경우에는 더 나은 성능을 달성합니다. 또한 이기종 실행에서 최대 15%의 성능 향상을 보입니다.
통계
데이터 크기가 35백만 행일 때 Radical-Cylon의 조인 작업 실행 시간은 215.64초에서 253.66초 사이입니다.
데이터 크기가 3.5십억 행일 때 Radical-Cylon의 조인 작업 실행 시간은 144.80초에서 47.10초 사이입니다.
데이터 크기가 35백만 행일 때 Radical-Cylon의 정렬 작업 실행 시간은 192.74초에서 223.88초 사이입니다.
데이터 크기가 3.5십억 행일 때 Radical-Cylon의 정렬 작업 실행 시간은 125.53초에서 39.52초 사이입니다.