Selbstüberwachtes Lernen

insight - Selbstüberwachtes Lernen

Effizientes Training von Maskierten Autoenkodern in einem Tag

Durch den Einsatz von effizienten Datenladestrategien, progressivem Training und anderen Techniken können Maskierte Autoenkoder in nur 18 Stunden auf dem ImageNet 1K-Datensatz trainiert werden, was eine Beschleunigung um den Faktor 5,8 bedeutet.

Verbesserung des selbstüberwachten Lernens in der Bildklassifizierung durch repräsentative Stapelauswahl

Durch die Verwendung der Fr´ echet ResNet-Distanz (FRD) zur Bewertung von Stapeln und der Einführung einer Huber-Verlustfunktion zur Reduzierung des Einflusses falscher positiver und negativer Paare können robustere Darstellungen aus unmarkierten Daten gewonnen werden.

Selbstüberwachtes Lernen mit Multi-View-Entropie-Flaschenhals

Der Artikel präsentiert einen neuen Ansatz namens Multi-View-Entropie-Flaschenhals (MVEB), um eine minimale ausreichende Darstellung in selbstüberwachten Lernumgebungen zu lernen. MVEB vereinfacht das Lernen der minimalen ausreichenden Darstellung auf den Prozess der Maximierung sowohl der Übereinstimmung zwischen den Einbettungen zweier Ansichten als auch der differenziellen Entropie der Einbettungsverteilung.

Von der Voraussetzung zum Zweck: Batch-adaptive selbstüberwachte Lernmethode

Eine Batch-Fusion-Rekonstruktionsstrategie, die die selbstüberwachten Signale aus Batches in selbstüberwachten Vergleichslernverfahren neu modelliert, ohne das ursprüngliche Lernparadigma wesentlich zu ändern. Dies ermöglicht den fusionierten Datentensor, die Kommunikation zwischen allen Datenindividuen in einer einzigen Batch-Ladung zu erreichen.

Selbstüberwachtes Lernen von geometrischen Darstellungen durch Trajektorienregularisierung

Trajektorienregularisierung verbessert die Leistung des selbstüberwachten geometrischen Darstellungslernens ohne die semantische Klassifizierungsgenauigkeit zu beeinträchtigen.

Verbesserung der Ansichtsqualität durch ein vortrainiertes generatives Modell für selbstüberwachtes Lernen

Durch den Einsatz eines vortrainierten generativen Modells zur Erstellung von Ansichten und einer qualitätsgesteuerten kontrastiven Verlustfunktion kann die Leistung des selbstüberwachten Lernens deutlich verbessert werden.

About

Products | Resources

Insights