Core Concepts
Eine neuartige architektonische Methode, gPerXAN, die eine personalisierte Normalisierungsschicht und eine einfache, aber effektive Regularisierung verwendet, um domänenspezifische Merkmale zu filtern und domänenunabhängige Darstellungen direkt zu erfassen, um die Generalisierungsfähigkeit in unbekannten Domänen zu verbessern.
Abstract
Der Artikel befasst sich mit dem Problem der Federated Domain Generalization (FedDG), bei dem ein globales Modell trainiert werden soll, das auf unbekannten Domänen gut generalisiert, ohne dass Daten zwischen Clients ausgetauscht werden müssen.
Zunächst wird eine neuartige Normalisierungsschicht, Personalized eXplicitly Assembled Normalization (PerXAN), eingeführt. PerXAN kombiniert explizit Instanz-Normalisierung (IN) und Batch-Normalisierung (BN) in einer personalisierten Weise, bei der die IN-Seiten global aggregiert werden, während die BN-Seiten lokal auf den Clients aktualisiert werden. Dadurch können domänenspezifische Merkmale effektiv gefiltert werden, ohne die Diskriminierungsfähigkeit zu beeinträchtigen.
Darüber hinaus wird eine einfache, aber effektive Regularisierung eingeführt, um den Clients direkte Anleitung zur Erfassung domänenunabhängiger Darstellungen zu geben, die vom globalen Klassifikator genutzt werden können. Dies verbessert die Leistung zusätzlich, indem es die Lerneffizienz der Clients erhöht.
Umfangreiche Experimente auf PACS, Office-Home und Camelyon17 Datensätzen zeigen, dass die vorgeschlagene Methode gPerXAN die Leistung auf unbekannten Domänen im Vergleich zu anderen Methoden deutlich verbessert, ohne zusätzliche Kommunikations- oder Rechenkosten zu verursachen und die Datenprivatsphäre zu gefährden.
Stats
Die Genauigkeit des globalen Modells auf der Testdomäne Foto (P) des PACS-Datensatzes beträgt 95,85%.
Die Genauigkeit des globalen Modells auf der Testdomäne Foto (P) des PACS-Datensatzes beträgt 97,27%.
Quotes
"Unsere vorgeschlagene Regularisierung kann auch als implizite Form des Abgleichs von globalem Wissen mit lokalem Wissen der Clients interpretiert werden, was nachweislich Leistungsverbesserungen bringt."
"Im Gegensatz zu bestehenden Methoden, die Teile der Clientdaten preisgeben müssen, umgeht unsere Methode diese Einschränkungen und bietet dennoch wettbewerbsfähige Ergebnisse."