遺忘、無知或近視：重新審視在線持續學習中的關鍵挑戰

在線持續學習中,模型的無知和近視是比眾所周知的災難性遺忘更為關鍵的問題。模型的無知是由於單次通過的數據流限制了模型在有限時間和存儲容量內學習有效特徵的能力。模型的近視是由於持續到達的任務導致模型過度簡化、任務特定的特徵和過度稀疏的分類器,從而導致當前任務的最優解與全局目標之間存在差距。