Effiziente neuronale Architektursuche durch Ausnutzung von Nullkosten-Proxies mit Transformer- und Graph-Convolution-Netzwerken
TG-NAS, ein neuartiger modellbasierter universeller Proxy, nutzt einen transformatorbasierten Operator-Embedding-Generator und ein Graph-Convolution-Netzwerk, um die Leistung von Architekturen vorherzusagen, ohne dass eine Neuausbildung erforderlich ist.
Maskierte Autoenkodierer sind robuste Lerner für die neuronale Architektursuche
Maskierte Autoenkodierer ermöglichen die robuste Entdeckung von Netzwerkarchitekturen ohne Kompromisse bei der Leistung und Generalisierungsfähigkeit, indem sie den überwachten Lernzweck durch eine Bildrekonstruktionsaufgabe ersetzen.
Automatisierte Suche nach effizienten neuronalen Architekturen: Überbrückung der Lücke zwischen Expertenentwurf und automatisierter Optimierung
Die Entwicklung der neuronalen Architektursuche (NAS) ermöglicht die automatisierte Optimierung von Netzwerkarchitekturen, um die Leistung und Effizienz von KI-Systemen zu verbessern. NAS überwindet die Grenzen des manuellen, expertengesteuerten Entwurfs und erschließt ein breites Spektrum innovativer Architekturlösungen.
Effiziente und gezielte Generierung neuronaler Architekturen durch prädiktorgesteuerte diffusionsbasierte Methoden
Durch den Einsatz von Diffusionsmodellen und der Einbindung von Leistungsprädiktoren kann DiffusionNAG effizient und gezielt neuronale Architekturen generieren, die bestimmte Zielkriterien erfüllen.
Robuste neuronale Architektursuche unter adversarischem Training: Benchmark, Theorie und darüber hinaus
Die Kernaussage dieses Artikels ist, dass die Entwicklung robuster Architekturen durch neuronale Architektursuche (NAS) von entscheidender Bedeutung ist, da neuronale Netzwerke anfällig für Angriffe auf ihre Leistung sind. Der Artikel stellt einen umfassenden Benchmark für adversariell trainierte Architekturen vor und liefert eine theoretische Analyse der Generalisierungsgarantien für solche Architekturen.
Effiziente und robuste trainingsfreie neuronale Architektursuche durch Optimierung und Ausbeutung von Schätzmetriken
Durch die Optimierung einer gewichteten linearen Kombination von trainingsfreien Metriken und die anschließende gezielte Ausbeutung dieser robusten Schätzmetrik kann die Leistung der vorgeschlagenen neuronalen Architektur deutlich gesteigert werden.
Effizienter Pareto-Ranking-Classifier für die mehrzielige evolutionäre neuronale Architektursuche
Ein Pareto-Ranking-Classifier wird vorgeschlagen, um die Rangstörungsprobleme bei der mehrzieligen evolutionären neuronalen Architektursuche zu lösen.
SWAP-NAS: Sample-Wise Activation Patterns for Ultra-Fast NAS
SWAP-Score ist ein leistungsstarker, neuartiger, training-freier Metrik für die Architektursuche, der eine starke Korrelation mit der Leistung von Netzwerken aufweist.
Effiziente Kodierungen für auf Vorhersagen basierende neuronale Architektursuche
Effiziente Kodierungen sind entscheidend für die Genauigkeit von NAS-Vorhersagen.
Effiziente Multi-Objective Differentiable Neural Architecture Search
Effiziente Suche nach Pareto-optimalen Architekturen über mehrere Geräte und Ziele hinweg.