Core Concepts
Wir stellen einen neuartigen Ansatz auf Basis von Intervall-Bound-Propagation (IBP) zur formalen Verifizierung von Objekterkennungsmodellen vor, der speziell auf die Intersection-over-Union (IoU)-Metrik abzielt. Unser Verfahren ermöglicht es, die Stabilität von Objekterkennungsmodellen gegenüber plausiblen Störungen zu zertifizieren.
Abstract
In dieser Arbeit wird ein neuer Ansatz zur formalen Verifizierung von Objekterkennungsmodellen vorgestellt, der auf der Intervall-Bound-Propagation (IBP) basiert und speziell auf die Intersection-over-Union (IoU)-Metrik ausgerichtet ist.
Der Ansatz besteht aus zwei Schritten:
Zunächst werden mithilfe etablierter Verifikationswerkzeuge wie ERAN, Auto-LiRPA oder DECOMON die erreichbaren Ausgaben des Objekterkennungsmodells unter Berücksichtigung von Störungen wie Rauschen, Helligkeit und Kontrast berechnet. Dabei werden nicht mehr einzelne Bounding Boxes, sondern erweiterte Bounding Boxes als Intervalle ausgegeben.
Im zweiten Schritt wird der IBP IoU-Algorithmus angewendet, um die Auswirkungen der Störungen auf die IoU-Metrik abzuschätzen. Dazu werden zwei Intervall-Erweiterungen der IoU-Funktion vorgestellt: eine einfachere "Vanilla IoU" und eine optimierte "Optimal IoU".
Die Evaluation zeigt, dass der Optimal IoU-Ansatz deutlich bessere Ergebnisse liefert als die Vanilla-Variante, insbesondere für den industriellen Anwendungsfall der Landebahnerkennung. Durch die geringe Rechenzeit des zweiten Schritts lässt sich der Ansatz auch in zertifiziertes Training integrieren.
Stats
Die Intersection-over-Union (IoU) kann als Kombination folgender Primitivoperationen dargestellt werden:
Minimum: min([a, b], [c, d]) = [min(a, c), min(b, d)]
Maximum: max([a, b], [c, d]) = [max(a, c), max(b, d)]
Addition: [a, b] + [c, d] = [a + c, b + d]
Subtraktion: [a, b] - [c, d] = [a - d, b - c]
Multiplikation (a ≥ 0, c ≥ 0): [a, b] * [c, d] = [a * c, b * d]
Division (a ≥ 0): 1/[a, b] = [1/b, 1/a]
Quotes
"Wir stellen einen neuartigen Ansatz auf Basis von Intervall-Bound-Propagation (IBP) zur formalen Verifizierung von Objekterkennungsmodellen vor, der speziell auf die Intersection-over-Union (IoU)-Metrik abzielt."
"Unser Verfahren ermöglicht es, die Stabilität von Objekterkennungsmodellen gegenüber plausiblen Störungen zu zertifizieren."
"Die Evaluation zeigt, dass der Optimal IoU-Ansatz deutlich bessere Ergebnisse liefert als die Vanilla-Variante, insbesondere für den industriellen Anwendungsfall der Landebahnerkennung."