Digitaler Vortrag

Abstract – Entfaltung lokaler Wachstumsratenschätzungen für (fast) perfekte Adversarial Detection 

Convolutional Neural Networks (CNNs) sind die modernste Lösung für viele Aufgabenstellungen des maschinellen Sehens. Die derzeitigen CNN-Ansätze sind jedoch weitgehend anfällig für künstliche Störungen der Eingabeinformationen, die speziell entwickelt wurden, um das System zu täuschen, während sie für das menschliche Auge quasi nicht wahrnehmbar sind. In den letzten Jahren wurden daher verschiedene Ansätze vorgeschlagen, um CNNs gegen solche Angriffe zu verteidigen – beispielsweise durch Modellhärtung oder durch Hinzufügen expliziter Verteidigungsmechanismen. Bei Letzterem wird ein kleiner »Detektor« in das Netzwerk integriert und auf die binäre Klassifizierungsaufgabe trainiert, echte Daten von Eingaben zu unterscheiden, die negative Störungen enthalten. In dieser Arbeit schlagen wir einen einfachen und leichtgewichtigen solchen Detektor vor, der die jüngsten Erkenntnisse über die Beziehung zwischen der lokalen intrinsischen Dimensionalität von Netzwerken und gegnerischen Angriffen nutzt. Basierend auf einer Neuinterpretation dieses Maßes und mehreren einfachen Anpassungen übertreffen wir den Stand der Technik bei der Erkennung von Angriffen um ein Vielfaches und erreichen nahezu perfekte Ergebnisse in Bezug auf den F1-Score für verschiedene Netzwerke und Datensätze.