組み込みニューラルネットワークモデル抽出のためのフォールトインジェクションと安全エラー攻撃

Core Concepts

本稿では、組み込みシステムにおけるディープラーニングモデル、特に32ビットマイクロコントローラ上の8ビット量子化モデルに対する新たな脅威として、フォールトインジェクションを用いたモデル抽出攻撃手法を提案する。

Abstract

論文要約

Kevin Hector, Pierre-Alain Moëllic, Mathieu Dumont, and Jean-Max Dutertre. (2023). Fault Injection and Safe-Error Attack for Extraction of Embedded Neural Network Models (ACCEPTED SECAI/ESORICS 2023 – BEST PAPER). arXiv preprint arXiv:2308.16703v2.

本研究は、組み込みシステム、特にIoT機器で広く利用されている32ビットマイクロコントローラ上のディープニューラルネットワークモデルを対象に、フォールトインジェクションを用いた安全エラー攻撃(SEA)によるモデル抽出攻撃の可能性と有効性を検証することを目的とする。

Key Insights Distilled From

Fault Injection and Safe-Error Attack for Extraction of Embedded Neural Network Models

by Kevin Hector... at arxiv.org 11-18-2024

https://arxiv.org/pdf/2308.16703.pdf

Deeper Inquiries

本稿で提案された攻撃手法は、他の種類の組み込みシステム、例えばFPGAやASICにも適用可能だろうか？

本稿で提案された攻撃手法は、原理的にはFPGAやASICにも適用可能です。この攻撃は、 Safe-Error Attack (SEA) と呼ばれる、データ依存のフォールトモデルを利用して、秘密情報を含むビットを特定する手法に基づいています。
FPGAやASICへの適用可能性：

フォールトインジェクションの実現: FPGAやASICにおいても、レーザーフォールトインジェクション(LFI)や電磁波フォールトインジェクション(EMFI)を用いることで、ビットレベルのフォールトを注入することが可能です。
メモリへのアクセス: 本稿の攻撃では、モデルのパラメータが格納されたメモリにアクセスできることが前提となっています。FPGAやASICにおいても、パラメータが格納されたメモリ領域が攻撃者にとってアクセス可能な場合は、攻撃が成立する可能性があります。
課題:

フォールトモデルの特定: FPGAやASICの構造や動作は、マイクロコントローラとは異なるため、フォールトモデルが異なる可能性があります。攻撃を成功させるためには、対象となるFPGAやASICのフォールトモデルを事前に解析する必要があります。
メモリ保護機構: FPGAやASICでは、セキュリティ対策としてメモリ保護機構が実装されている場合があります。これらの機構により、攻撃者がメモリにアクセスすることが困難になる可能性があります。
結論:
本稿で提案された攻撃手法は、FPGAやASICにも適用可能である可能性があります。ただし、攻撃を成功させるためには、対象となるシステムの構造や動作、セキュリティ対策を考慮する必要があります。

モデルの量子化ビット数を増やすこと(例えば、8ビットから16ビット)は、攻撃の難易度や成功率にどのような影響を与えるだろうか？

モデルの量子化ビット数を増やすことは、攻撃の難易度を上昇させ、成功率を低下させる可能性があります。
攻撃難易度の上昇:

探索空間の拡大: 量子化ビット数が増えると、パラメータ1つあたりの表現可能な値の範囲が広がります。そのため、SEAで探索すべきビット数が増加し、攻撃に必要なフォールトインジェクションの回数も増加します。
LSBLの効果の減衰: 本稿で提案されているLeast Significant Bit Leakage (LSBL)は、下位ビットの値から上位ビットの値を推測する手法ですが、量子化ビット数が増えると、下位ビットの変化が上位ビットに影響を与えにくくなるため、LSBLの効果が減衰する可能性があります。
成功率の低下:

ノイズの影響: 量子化ビット数が増えると、量子化誤差が小さくなり、モデルの出力値の変化が小さくなります。そのため、フォールトインジェクションによる出力値の変化がノイズに埋もれてしまい、攻撃の成功率が低下する可能性があります。
結論:
モデルの量子化ビット数を増やすことは、攻撃の難易度を上昇させ、成功率を低下させる方向に作用する可能性があります。ただし、攻撃者はより高度なフォールトインジェクション技術や解析手法を用いることで、これらの影響を克服しようと試みる可能性があります。

本稿では、フォールトインジェクションを用いた攻撃に焦点を当てているが、他の物理攻撃(例えば、電磁波解析)と組み合わせることで、さらに効果的な攻撃が可能になるだろうか？

はい、フォールトインジェクションと電磁波解析のような他の物理攻撃を組み合わせることで、より効果的な攻撃が可能になる可能性があります。
相乗効果の例:

攻撃対象の特定: 電磁波解析を用いることで、デバイス内部の処理状況をある程度把握することができます。この情報を活用することで、フォールトインジェクションの対象となるメモリ領域やタイミングをより正確に絞り込むことができます。
フォールトの効果の確認: 電磁波解析を用いることで、フォールトインジェクションによって期待通りのビット反転が発生したかどうかを確認することができます。これにより、攻撃の効率を高めることができます。
サイドチャネル情報との組み合わせ: 電磁波解析で取得したサイドチャネル情報と、フォールトインジェクションによる出力の変化を組み合わせることで、より多くの情報を得ることができ、攻撃の成功率を高めることができます。
具体的な攻撃シナリオ:

電磁波解析を用いて、モデルの実行中にパラメータがメモリから読み出されるタイミングを特定します。
特定したタイミングに合わせて、フォールトインジェクションを仕掛けます。
電磁波解析でフォールトの効果を確認し、SEAを用いて秘密情報を含むビットを特定します。

結論:
フォールトインジェクションと電磁波解析のような他の物理攻撃を組み合わせることで、攻撃の効率と成功率を高めることが可能になります。このため、組み込みシステムにおけるセキュリティ対策としては、フォールトインジェクションだけでなく、他の物理攻撃にも対策を講じることが重要です。