連続学習のためのヘシアン認識低ランク重み摂動

連続学習では、新しいタスクを学習する際に過去のタスクの知識を忘れてしまう問題がある。本研究では、重み行列の低ランク近似を用いて、タスク間の重み遷移を効率的にモデル化し、ヘシアン情報に基づいて各層の最適な低ランク近似ランクを自動的に決定する手法を提案する。これにより、モデルの記憶容量と計算効率を維持しつつ、過去のタスクの知識を保持することができる。