Core Concepts
ニューラルODEの観点から、入力の摂動に対してロバストな深層学習モデルを得るためのミニマックス最適制御アプローチを提案する。
Abstract
本論文では、ニューラルODEの観点から、入力の摂動に対してロバストな深層学習モデルを得るためのミニマックス最適制御アプローチを提案している。
まず、ニューラルODEの枠組みにおいて、ミニマックス最適制御問題に対するポントリャーギンの最大原理の最適性条件を導出している。この結果に基づき、重み付きの敵対的攻撃を考慮した数値スキームを提案している。
提案手法は、一様ロバスト手法や最悪ケースロバスト手法と比較して、低次元の分類タスクにおいて、精度とトレーニングの安定性の両面で優れた性能を示している。高次元設定では、正確な局所最大値の計算が困難であるが、重み付き近似により、ロバスト性を向上させることができると期待される。
Stats
ロバストな深層学習モデルの性能評価指標:
テストデータの正解率: 94.68%
訓練データの境界領域の正解率: 58.31%
高い確信度の誤分類率: 55.76%