Core Concepts
強化学習アルゴリズムを使用して、超伝導ハードウェアでニューラルネットワークを自己学習させる手法を提案している。
Abstract
本論文では、強化学習ベースのローカルな重み更新ルールとその超伝導ハードウェアへの実装について説明している。SPICE回路シミュレーションを使用して、1ナノ秒程度の学習時間で動作する小規模なニューラルネットワークを実装している。このネットワークは、目標出力を変更するだけで新しい機能を学習できる。重みの調整は、ネットワーク全体の応答の現在の状態と局所的に保存された過去の情報に基づいて行われる。これにより、これらのネットワークに明示的な重み値をプログラムする必要がなくなる。重み調整は、バックプロパゲーションのための回路を必要としない、グローバルな強化信号に基づいて行われる。
小規模なデモンストレーションネットワークでは、入力パターンの変化に応じて、スパイク出力を学習できることを示している。さらに、MNIST手書き数字分類タスクに適用した結果、隠れ層を持つネットワークが90%を超える精度を達成できることを示している。提案手法は、大規模なニューロモーフィックシステムの実現に向けて有望な方向性を示している。
Stats
提案手法を用いた小規模ネットワークの学習時間は約1ナノ秒
3層の隠れ層を持つMNISTネットワークの学習に要する時間は約100ミリ秒
学習後のMNISTネットワークの推論速度は1画像あたり150ピコ秒(6.7GHz)
Quotes
"強化学習アルゴリズムは、ゲームやロボティクス、自動運転車など、幅広い分野で使用されている。"
"提案手法では、重みの調整がネットワーク全体の応答の現在の状態と局所的に保存された過去の情報に基づいて行われるため、これらのネットワークに明示的な重み値をプログラムする必要がなくなる。"
"提案手法は、大規模なニューロモーフィックシステムの実現に向けて有望な方向性を示している。"