Das Paper präsentiert STAR-Prompt, eine Methode für kontinuierliches Lernen, die die Stabilität der Prompt-Auswahl durch ein Grundlagenmodell und zweistufiges Prompt-Tuning stärkt. Es ersetzt die Standard-Prompt-Token-Konkatenierung durch additive Reste, um Semantik in die MLP-Schichten zu übertragen. Darüber hinaus wird ein einfaches generatives Replay auf der Grundlage einer multimodalen Darstellung der Merkmalsverteilungen verwendet.
Naar een andere taal
vanuit de broninhoud
arxiv.org
Belangrijkste Inzichten Gedestilleerd Uit
by Martin Menab... om arxiv.org 03-12-2024
https://arxiv.org/pdf/2403.06870.pdfDiepere vragen