원격 스토리지 접근 비용을 줄이기 위한 서버리스 컴퓨팅을 위한 인-스토리지 도메인 특화 가속기

핵심 개념

서버리스 기능을 위해 원격 스토리지에서 데이터를 읽고 쓰는 비용이 가속기 이점을 압도하므로, 이를 해결하기 위해 스토리지 내에 도메인 특화 가속기를 통합하여 서버리스 컴퓨팅의 성능과 효율성을 높임.

초록

이 논문은 서버리스 컴퓨팅, 스토리지 분리, 도메인 특화 가속기라는 세 가지 트렌드가 교차하는 지점에서 발생하는 문제를 다룹니다.

서버리스 기능은 입력과 출력 데이터를 원격 스토리지에서 읽고 쓰는 데 많은 비용이 들어, 가속기의 이점을 압도합니다. 이를 해결하기 위해 DSCS-Serverless 모델을 제안합니다. DSCS-Serverless는 스토리지 내에 상대적으로 작은 프로그래밍 가능한 가속기를 통합하여 분리된 데이터 센터에서 가속기의 잠재력을 활용합니다.

DSCS-Serverless의 주요 구성요소는 다음과 같습니다:

1. 스토리지 내에 도메인 특화 가속기를 통합한 DSCS-Drive
2. 서버리스 기능을 DSCS-Drive의 가속기로 오프로드하는 시스템 소프트웨어 스택
3. 데이터 배치, 확장성, 장애 조치 등 스토리지 관련 고려사항
4. 함수 스케줄링, 체이닝, 콜드 스타트 등 서버리스 관련 고려사항

이를 통해 DSCS-Serverless는 기존 분리된 데이터 센터 시스템보다 2.7배 더 빠른 end-to-end 성능, 4.2배 더 낮은 에너지 소비, 3.0배 더 나은 비용 효율성을 달성합니다.

통계

원격 S3 스토리지에서 데이터를 읽는 데 걸리는 평균 지연 시간은 중간값과 99번째 백분위 값 사이에 110% 차이가 난다.
서버리스 기능 실행 시 데이터 읽기/쓰기 지연 시간이 실제 계산 시간보다 더 길다(평균 55% 이상).
기존 가속기로는 최대 1.52배 성능 향상만 가능하며, 이는 원격 스토리지 접근 비용 때문에 제한적이다.

인용구

"서버리스 기능은 입력과 출력 데이터를 원격 스토리지에서 읽고 쓰는 데 많은 비용이 들어, 가속기의 이점을 압도한다."
"분리, 서버리스 모델, 스토리지 내 계산을 위한 제한적인 전력 예산은 기존 마이크로프로세서와 FPGA 통합 관행과는 다른 설계가 필요하다."

핵심 통찰 요약

In-Storage Domain-Specific Acceleration for Serverless Computing

by Rohan Mahapa... 게시일 arxiv.org 03-26-2024

https://arxiv.org/pdf/2303.03483.pdf

더 깊은 질문

서버리스 기능의 데이터 배치와 스케줄링을 최적화하여 DSCS-Serverless의 성능을 더 향상시킬 수 있는 방법은 무엇일까?

DSCS-Serverless의 성능을 최적화하기 위해 데이터 배치와 스케줄링을 최적화하는 몇 가지 방법이 있습니다.

데이터 배치 최적화: DSCS-Serverless에서는 가속기가 있는 스토리지 드라이브에 데이터를 배치하여 성능을 극대화합니다. 데이터를 처리해야 하는 함수가 있는 노드에 데이터를 배치하고, 데이터 요청이 증가할 때 다른 DSCS-Serverless 지원 스토리지 드라이브에 데이터를 저장하는 방식으로 데이터 배치를 최적화할 수 있습니다.

스케줄링 최적화: DSCS-Serverless의 스케줄링 알고리즘을 개선하여 가속 가능한 함수를 실행할 수 있는 노드에 할당하는 방법을 개선할 수 있습니다. 함수 실행을 최적화하기 위해 함수의 우선순위, 중요도, 그리고 가속기를 활용할 수 있는 함수의 수 등을 고려하여 스케줄링을 개선할 수 있습니다.

이러한 최적화를 통해 DSCS-Serverless의 성능을 향상시킬 수 있습니다.

DSCS-Serverless 모델을 다른 도메인의 가속기로 확장하는 것은 어떤 도전과제와 기회를 제공할까?

DSCS-Serverless 모델을 다른 도메인의 가속기로 확장하는 것은 몇 가지 도전과제와 기회를 제공할 수 있습니다.
도전과제:

다양한 도메인의 가속기 통합: 다른 도메인의 가속기를 통합하는 것은 각 도메인의 특성과 요구 사항을 고려해야 합니다. 각 가속기가 서로 다른 작업을 수행하고 다른 데이터 형식을 처리하기 때문에 통합하는 것은 복잡할 수 있습니다.

성능 및 호환성 문제: 다른 도메인의 가속기를 통합할 때 성능 및 호환성 문제가 발생할 수 있습니다. 각 가속기의 성능 특성을 최대한 활용하면서도 시스템 전체의 호환성을 유지하는 것이 중요합니다.

기회:

다양한 응용 프로그램 지원: 다양한 도메인의 가속기를 통합함으로써 다양한 응용 프로그램을 지원할 수 있습니다. 각 도메인의 특성에 맞게 가속기를 선택하여 응용 프로그램의 성능을 향상시킬 수 있습니다.

혁신적인 기술 발전: 다른 도메인의 가속기를 통합함으로써 혁신적인 기술 발전을 이끌어낼 수 있습니다. 다양한 도메인의 가속기를 통합하면 새로운 기술 및 솔루션을 개발할 수 있으며 시스템의 성능을 향상시킬 수 있습니다.

DSCS-Serverless가 제공하는 인-스토리지 가속 기능이 향후 데이터 센터 인프라와 클라우드 컴퓨팅 서비스에 어떤 영향을 미칠 것으로 예상되는가?

DSCS-Serverless가 제공하는 인-스토리지 가속 기능은 데이터 센터 인프라와 클라우드 컴퓨팅 서비스에 다음과 같은 영향을 미칠 것으로 예상됩니다.

성능 향상: DSCS-Serverless는 데이터 센터 인프라와 클라우드 컴퓨팅 서비스의 성능을 향상시킬 것으로 예상됩니다. 인-스토리지 가속 기능을 통해 데이터 처리 속도가 향상되고 응용 프로그램의 실행 시간이 단축될 것으로 예상됩니다.

자원 활용 최적화: DSCS-Serverless는 자원 활용을 최적화하여 데이터 센터의 자원을 효율적으로 활용할 수 있습니다. 가속기를 활용하여 데이터 처리를 빠르게 수행함으로써 자원의 낭비를 줄이고 성능을 극대화할 수 있습니다.

비용 절감: DSCS-Serverless는 비용을 절감할 수 있는 기회를 제공할 것으로 예상됩니다. 빠른 데이터 처리와 효율적인 자원 활용을 통해 클라우드 컴퓨팅 서비스의 운영 비용을 절감할 수 있을 것으로 예상됩니다.