암의 Ethos-U55 임베디드 머신 러닝 가속기에 대한 소프트 오류 내성 특성화

Centrala begrepp

Arm의 Ethos-U55 임베디드 머신 러닝 가속기는 다양한 신경망 모델에 대해 ASIL-D 안전 기준을 충족하지 못하지만, 선택적 보호 기법을 통해 38%의 면적 오버헤드로 ASIL-D 기준을 충족할 수 있다.

Sammanfattning

이 논문은 Arm의 Ethos-U55 임베디드 머신 러닝 가속기의 소프트 오류 내성을 대규모 RTL 수준 오류 주입 실험을 통해 특성화한다.

주요 내용은 다음과 같다:

1. Ethos-U55의 4가지 하드웨어 구성에 대해 다양한 신경망 모델을 실행했을 때, 모든 구성이 ASIL-D 안전 기준을 충족하지 못하는 것으로 나타났다.

2. Ethos-U55의 각 기능 블록별로 소프트 오류에 대한 민감도가 다르며, 이는 기술 노드와 적용 워크로드에 따라 달라진다.

3. 기능 블록의 면적이 해당 블록의 내성과 양의 상관관계를 보이지 않는다. 따라서 제한된 면적 예산 내에서 ASIL-D 기준을 충족하기 위해서는 선택적 보호 기법이 필요하다.

4. 선택적 보호 기법을 통해 Ethos-U55는 38%의 면적 오버헤드로 ASIL-D 기준을 충족할 수 있다. 이는 기존의 100% 오버헤드를 요구하는 이중 코어 잠금 단계 방식보다 효율적이다.

Statistik

모든 Ethos-U55 구성에서 SDC 비율이 ASIL-D 기준인 0.1×10^-15 per inference를 초과한다.
Ethos-U55의 SDC 비율은 적용 신경망 모델과 하드웨어 구성에 따라 크게 달라진다.
기술 노드가 16nm에서 7nm로 변경되면 기능 블록의 SDC 비율이 평균 3.3배 감소한다.
조합 논리 오류를 고려하면 기능 블록의 SDC 비율이 크게 증가한다.

Citat

"Ethos-U55, 다양한 하드웨어 구성과 신경망 모델에서, ASIL-B 및 ASIL-C 기준은 충족하지만 ASIL-D 기준은 충족하지 못한다."
"기능 블록의 면적이 해당 블록의 내성을 나타내는 지표가 아니다."
"선택적 보호 기법을 통해 Ethos-U55는 38%의 면적 오버헤드로 ASIL-D 기준을 충족할 수 있다."

Viktiga insikter från

Characterizing Soft-Error Resiliency in Arm's Ethos-U55 Embedded Machine Learning Accelerator

by Abhishek Tya... på arxiv.org 04-16-2024

https://arxiv.org/pdf/2404.09317.pdf

Djupare frågor

Ethos-U55 이외의 다른 NPU 가속기에 대해서도 이와 유사한 소프트 오류 내성 분석이 필요한가

Ethos-U55 이외의 다른 NPU 가속기에 대해서도 이와 유사한 소프트 오류 내성 분석이 필요한가?
Ethos-U55의 소프트 오류 내성 분석은 안전 및 신뢰성이 중요한 응용 프로그램에 매우 중요합니다. 다른 NPU 가속기도 안전 및 신뢰성이 요구되는 응용 분야에서 사용되고 있기 때문에 이와 유사한 소프트 오류 내성 분석이 필요합니다. 안전 및 신뢰성이 중요한 응용 분야에서 NPU 가속기를 사용하는 경우, 소프트 오류로 인한 데이터 손실이나 오작동은 심각한 문제가 될 수 있습니다. 따라서 다른 NPU 가속기에 대한 소프트 오류 내성 분석은 해당 기기의 안전성을 보장하고 신뢰성을 확보하는 데 중요합니다.

ASIL-D 기준을 충족하기 위한 선택적 보호 기법의 일반화된 설계 방법론은 무엇인가

ASIL-D 기준을 충족하기 위한 선택적 보호 기법의 일반화된 설계 방법론은 무엇인가?
ASIL-D 수준의 소프트 오류 내성을 충족하기 위한 선택적 보호 기법의 일반화된 설계 방법론은 다음과 같은 단계를 포함할 수 있습니다:

기능 블록 분석: 각 기능 블록의 소프트 오류 내성을 평가하고 각 블록이 전체 시스템의 SDC에 미치는 영향을 이해합니다.
보호 기법 선택: DMR, 플립 허드닝, 논리 오류 제거를 포함한 다양한 보호 기법 중에서 적합한 기법을 선택합니다.
보호 범위 결정: 각 기능 블록에 대해 어떤 보호 기법을 적용할지 결정하고 보호 범위를 설정합니다.
시뮬레이션 및 평가: 선택한 보호 기법을 적용한 후 시뮬레이션을 통해 시스템의 소프트 오류 내성을 평가하고 ASIL-D 기준을 충족하는지 확인합니다.
최적화 및 조정: 필요에 따라 보호 기법을 최적화하고 시스템의 안전성을 높이기 위해 조정합니다.

이러한 일반화된 설계 방법론을 통해 ASIL-D 수준의 소프트 오류 내성을 충족하는 선택적 보호 기법을 효과적으로 구현할 수 있습니다.

소프트 오류 내성 향상을 위해 Ethos-U55의 하드웨어 구조를 어떻게 재설계할 수 있을까

소프트 오류 내성 향상을 위해 Ethos-U55의 하드웨어 구조를 어떻게 재설계할 수 있을까?
Ethos-U55의 하드웨어 구조를 재설계하여 소프트 오류 내성을 향상시키기 위해 다음과 같은 접근 방법을 사용할 수 있습니다:

기능 블록 보호: 각 기능 블록에 대해 DMR, 플립 허드닝 또는 논리 오류 제거와 같은 보호 기법을 적용하여 소프트 오류에 대비합니다.
영역 최적화: 각 기능 블록에 대한 보호 기법을 선택하고 영역 오버헤드를 최소화하여 시스템의 성능을 유지하면서 안전성을 향상시킵니다.
논리 오류 고려: 논리 오류에 대한 보호 기법을 도입하여 논리 오류로 인한 소프트 오류를 방지하고 시스템의 안정성을 향상시킵니다.
실험 및 검증: 재설계된 하드웨어 구조에 대해 시뮬레이션을 수행하고 ASIL-D 기준을 충족하는지 확인하는 등의 검증 단계를 거칩니다.
최적화 및 조정: 실험 결과를 토대로 하드웨어 구조를 최적화하고 필요한 조정을 수행하여 소프트 오류 내성을 지속적으로 향상시킵니다.

이러한 접근 방법을 통해 Ethos-U55의 하드웨어 구조를 재설계하여 소프트 오류 내성을 향상시킬 수 있습니다.