Die Studie führt einen einheitlichen schwarzen Kasten-Angriff mit Adversarial-Patches gegen pixelweise Regressions-Aufgaben wie monokulare Tiefenschätzung (MDE) und optische Flussschätzung (OFE) durch.
Zunächst wird ein neuartiger quadratbasierter Adversarial-Patch-Optimierungsrahmen vorgestellt, der probabilistische Quadrat-Abtastung und scorebezogene Gradientenschätzung verwendet, um das Skalierungsproblem früherer schwarzer Kasten-Patch-Angriffe zu überwinden.
Der Angriff, genannt BADPART, wird auf 7 Modelle für MDE und OFE angewendet und übertrifft 3 Baseline-Methoden in Bezug auf Angriffsleistung und Effizienz. BADPART wird auch erfolgreich auf den Google-Online-Service für Porträt-Tiefenschätzung angewendet, was zu einem 43,5%igen relativen Abstandsfehler mit 50K Abfragen führt. Moderne Gegenmaßnahmen können den Angriff nicht effektiv abwehren.
To Another Language
from source content
arxiv.org
Key Insights Distilled From
by Zhiyuan Chen... at arxiv.org 04-02-2024
https://arxiv.org/pdf/2404.00924.pdfDeeper Inquiries