Aufmerksamkeitsbasierte Modulation zur Verbesserung des kontinuierlichen Lernens
Eine biologisch plausible, aufmerksamkeitsbasierte Modulationsstrategie, die Klassifikationsmerkmale durch visuelle Salienz reguliert, um das Vergessen effektiv zu reduzieren.
Kontinuierliches Lernen mit semantisch verschobenen inkrementellen Adapter-Feinabstimmung: Ein kontinuierlicher ViTransformer
Durch inkrementelles Feintuning des geteilten Adapters ohne Parametereinschränkungen kann die Lernkapazität des Rückgrats verbessert und die Leistung für neue Klassen erhöht werden. Zusätzlich wird durch Schätzung der semantischen Verschiebung und Neutrainieren des Klassifikators die Gesamtleistung weiter verbessert.
Effiziente Verbesserung des kontinuierlichen visuellen Lernens durch sprachgeführte Überwachung
Der Einsatz von Sprachmodellen zur Generierung semantischer Ziele für den Klassifikator kann die Repräsentationsverschiebung verringern und den Wissenstransfer zwischen Aufgaben erleichtern, was die Leistung gängiger kontinuierlicher Lernmethoden deutlich verbessert.
Kontinuierliches Lernen ohne Zunahme der Modellparameter: AttriCLIP, ein nicht-inkrementeller Lerner für inkrementelles Wissenslernen
AttriCLIP ist ein kontinuierliches Lernverfahren, das auf dem vortrainierten visuell-sprachlichen Modell CLIP basiert. Es lernt inkrementell neues Wissen, ohne die Modellparameter zu erhöhen oder zusätzlichen Speicher für Wiederholungsdaten zu benötigen.
© 2024 by Linnk AI