Core Concepts
Catastrophic ForgettingとNegative Forward Transferを解決するためのFwd-Promptアプローチが提案されています。
Abstract
マルチモーダル連続指示調整(MCIT)は、古い知識を忘れる「catastrophic forgetting」と未来のタスクのパフォーマンスが低下する「negative forward transfer」に直面しています。この記事では、新しいタスクに適応するためのFwd-Promptアプローチが提案されています。Fwd-Promptは、prompt tuningを活用して古い知識を保持し、未来のタスクで前向きな転送を強化します。実験結果は、Fwd-PromptがSOTA手法よりも優れた性能を示し、トレーニング時間やパラメータ数が少なくても良好な結果を達成しています。
Stats
MCITはCatastrophic ForgettingとNegative Forward Transferに直面しています。
Fwd-PromptはSOTA手法よりも優れた性能を示しました。