Konsep Inti
FOCILは、オンラインクラス増分学習においてランダムに剪定された疎な専門家を訓練することで、主要なアーキテクチャを微調整し、忘却を防ぐことを目指しています。
Abstrak
現在の人工知能システムは新しいタスクに直面する際に以前に学んだ情報を忘れる傾向がある。
クラス増分学習(CIL)は連続的な学習の一部であり、オフラインモードよりも現実的である。
FOCILはオンラインCILアプローチであり、リプレイデータの保存なしで連続的に学習します。
ランダムに剪定されたサブネットワークを訓練し、任務ごとにトレーニングした後、それらを凍結して忘却を防ぎます。
FOCILは他の方法よりも高い精度でSOTAを上回ります。
1. Introduction
現在のAIシステムは新しいタスクに直面する際に以前に学んだ情報を忘れる可能性がある。
2. Related Work
多くのCLアプローチでは全トレーニングデータが利用可能であることが前提とされている。
3. FOCIL
FOCILメソッドでは、各タスクごとにランダムな剪定を行い、専門家を訓練しています。
Statistik
FOCILはSOTA方法よりも平均精度が4倍向上しています。