Core Concepts
脳内ネットワークにおける効率的な信用割り当てのための新しい計算フレームワークであるGLEは、生物学的に妥当な方法で複雑な時空間タスクの推論と学習を可能にします。
Abstract
概要:
ニューラルネットワークにおける効果的な学習は、個々のシナプスの適応が重要です。
時空的局所性に制約された物理的ニューロンシステムでは、効率的な信用割り当てが必要です。
アルゴリズム:
GLEは、エネルギー不一致を基にしたニューロンダイナミクスと勾配降下を導出します。
実時間で動作する連続時間ニューロンダイナミクスと局所シナプス可塑性を持つ深層皮質ネットワークでBPTTを近似します。
アプリケーション:
MNIST1DデータセットやGoogle Speech Commandsデータセットなど、さまざまな時空間分類問題で競争力のある結果を達成します。
Stats
BP(TT)は生物学的に不可能な仮定に依存していることが知られています。
Quotes
"GLEはAM/BPTTの効率的なオンライン近似を提供し、バイオプラウジブルかつリアルタイムで学習可能です。"
"GLEは完全にローカルで常時オンのフェーズフリー学習を行うことで、生物学的および人工的なアナログ物理システム内で時空間入力ストリームの効率的なバイオプラウジブルオンライン学習を実現する有望な候補です。"