核心概念
Proposing a novel encoding-based MAC design to enhance neural network acceleration efficiency.
摘要
深層ニューラルネットワーク(DNN)の実行には、大量の乗算-蓄積(MAC)演算が必要であり、これにより専用ハードウェアリソースが多く必要となり、大きな電力消費が発生します。提案された新しいデジタルMAC設計は、エンコーディングを活用して複雑なロジックを単純化し、回路面積と電力消費を大幅に削減します。この新しい設計では、既存の計算プラットフォームでニューラルネットワークの加速を実現することができます。提案された設計はResNet18-Cifar10、ResNet20-Cifar100およびResNet50-ImageNetで合成および検証されました。実験結果は、回路面積の最大79.63%の削減とDNNの実行時の電力消費量の最大70.18%の削減を確認しました。
統計資料
GPT-3は96層で1750億個の重みを持ち、数兆回のMAC演算が必要。
提案されたデザインにより回路面積が最大79.63%削減。
DNNの実行時の電力消費量が最大70.18%削減。
引述
"Various techniques have been proposed to enhance the execution efficiency of DNNs on digital hardware."
"The proposed design has been synthesized and verified by ResNet18-Cifar10, ResNet20-Cifar100 and ResNet50-ImageNet."
"The proposed new MAC design can execute neural networks with high inference accuracy while consuming less power."