Core Concepts
Tiefgreifendes Verständnis der Pfade in neuronalen Netzwerken für die Klassifikation und Analyse von Bildern.
Abstract
Das Verständnis der Rolle von Pfaden in tiefen neuronalen Netzwerken wird untersucht. Es wird gezeigt, wie Pfade einzelner Pixel in einem CNN extrahiert werden, um die Klassifikation zu verbessern. Die Pfade ermöglichen die Identifizierung wichtiger Komponenten für die Klassifikation und zeigen konsistente Trends zwischen Bildern derselben Kategorie. Die Pfade werden auch für die Analyse von Angriffen, Objektvervollständigung und Bewegungswahrnehmung verwendet. Es wird gezeigt, dass die Anzahl der Pfade die Original-, veränderten und Zielproben klar unterscheiden kann.
Struktur:
Einführung zur Interpretierbarkeit von neuronalen Netzwerken
Analyse der Pfade in tiefen Netzwerken
Extraktion von Pfaden in neuronalen Netzwerken
Experimente und Daten
Anwendung auf adversariale Angriffe und Wahrnehmung
Stats
Die wenigen größten Pfade eines Pixels kreuzen die Merkmalskarten in jeder Schicht, die für die Klassifikation wichtig sind.
Die Anzahl der Pfade auf den Merkmalskarten in allen Schichten kann die Original-, veränderten und Zielproben klar unterscheiden.
Quotes
"Die Pfade erlauben uns, die kausalen Komponenten zu testen, die für die Klassifikation wichtig sind."