核心概念
近似乗算器を活用することで、DARTSによって生成されたニューラルネットワークの消費電力を大幅に削減できる。
要約
本論文では、近似乗算器を活用したDARTSアルゴリズム(ApproxDARTS)を提案している。ApproxDARTSは、DARTSの設計プロセスに近似乗算器を統合することで、生成されたニューラルネットワークの消費電力を大幅に削減できる。
まず、アーキテクチャ検索段階では、DARTSの通常の演算子に加えて、近似乗算器を使用した畳み込み演算子を導入する。これにより、生成されたニューラルネットワークが近似乗算器を活用できるようになる。
次に、アーキテクチャ評価段階では、検索段階で得られた最適なアーキテクチャを用いて、大規模なニューラルネットワークを構築する。この際、近似乗算器を活用することで、消費電力を大幅に削減できることを示している。
具体的には、CIFAR-10データセットを用いた実験では、ApproxDARTSによって生成されたニューラルネットワークが、32ビットの浮動小数点乗算器を使用した場合と比べて、算術演算の消費電力を53.84%削減できることを確認した。また、8ビットの固定小数点乗算器を使用した場合と比べても、5.97%の消費電力削減が可能であった。これらの大幅な消費電力削減は、分類精度の低下が1.3%未満と非常に小さいことから実現できている。
ApproxDARTSは、従来のEvoApproxNASと比較しても、より高い分類精度と効率的な設計時間を実現できることが示された。
統計
ニューラルネットワークの消費電力は、32ビット浮動小数点乗算器を使用した場合と比べて53.84%削減できる。
8ビット固定小数点乗算器を使用した場合と比べても、5.97%の消費電力削減が可能である。
引用
"近似乗算器を活用することで、DARTSによって生成されたニューラルネットワークの消費電力を大幅に削減できる。"
"ApproxDARTSによって生成されたニューラルネットワークは、32ビットの浮動小数点乗算器を使用した場合と比べて、算術演算の消費電力を53.84%削減できる。"
"ApproxDARTSによって生成されたニューラルネットワークは、8ビットの固定小数点乗算器を使用した場合と比べても、5.97%の消費電力削減が可能である。"