Das Paper präsentiert STAR-Prompt, eine Methode für kontinuierliches Lernen, die die Stabilität der Prompt-Auswahl durch ein Grundlagenmodell und zweistufiges Prompt-Tuning stärkt. Es ersetzt die Standard-Prompt-Token-Konkatenierung durch additive Reste, um Semantik in die MLP-Schichten zu übertragen. Darüber hinaus wird ein einfaches generatives Replay auf der Grundlage einer multimodalen Darstellung der Merkmalsverteilungen verwendet.
Til et andet sprog
fra kildeindhold
arxiv.org
Vigtigste indsigter udtrukket fra
by Martin Menab... kl. arxiv.org 03-12-2024
https://arxiv.org/pdf/2403.06870.pdfDybere Forespørgsler