Gadgetshowto
Unsere Erfahrungen aus erster Hand mit der KI-Bilderkennungstechnologie Google Lens haben gezeigt, dass maschinelles Lernen sicherlich einen sehr langen Weg zurückgelegt hat. Aber diese Technologie ist derzeit alles andere als perfekt und nicht so intelligent, wie wir es uns erhofft hatten, vor allem, weil das Tempo, mit dem wir Computer trainieren, um Modelle zu identifizieren, langsam ist. Darüber hinaus erfordern einige KI erweiterte Berechnungen für das neuronale Netzwerk, und es ist sicherlich nicht die einfachste Aufgabe, eine Maschine zu unterrichten.
Vor diesem Hintergrund hat es sich eine Gruppe von Google-Forschern zur Aufgabe gemacht, KI-Bilderkennungssysteme zu testen und zu prüfen, ob sie getäuscht werden können oder nicht.
Es scheint, dass sie seit dem siegreich hervorgegangen sind Dank eines speziell gedruckten psychedelischen Aufklebers konnte das KI-System das Objekt (hier eine Banane) in den Beispielbildern nicht erkennen.
Die Schaffung dieser Psychedelische Aufkleber, die Bilderkennungssysteme täuschen können, wie in einem Forschungsbericht mit dem Titel Adversarial Patch beschrieben, Dies wurde gerade auf der 31. Konferenz über neuronale Informationsverarbeitungssysteme im Dezember 2017 vorgestellt. Das Papier erklärt, dass Forscher ein gegnerisches (gegnerisches) System trainiert haben, um kleine fleckenartige psychedelische Kreise mit zufälligen Formen, Farben und Größen zu erstellen, um die Bilderkennung zu täuschen System.
Während die häufigste Methode, um KI-Bilderkennungssysteme zu täuschen, darin besteht, ein Bild durch Anhängen von Grafiken zu ändern, haben die Forscher von Google beschlossen, das System mit psychedelischen Designs auszutricksen.
Wie in der folgenden Videodemo zu sehen ist, kann das System die Banane und bis zu einem gewissen Grad den Toaster erkennen, wenn Sie ein normales Bild neben die Banane legen. Die Ergebnisse sind jedoch weniger klar, wenn ein psychedelischer Wirbel neben der Banane platziert wird:
Das Team stellte auch fest, dass a Das gepatchte Design erscheint getrennt vom Motiv und wird nicht von Faktoren beeinflusst wie Lichtverhältnisse, Kamerawinkel, Objekte in der Ansicht des Klassifikators und des Klassifikators selbst.
Die Forscher erklären weiter die Funktionsweise der psychedelischen Designs:
Dieser Angriff erzeugt einen bildunabhängigen Patch, der für ein neuronales Netzwerk äußerst wichtig ist. Dieser Patch kann dann an einer beliebigen Stelle im Sichtfeld des Klassifikators platziert werden und bewirkt, dass der Klassifikator eine Zielklasse ausgibt.
Während dies auf den ersten Blick so aussieht, als würde die KI-Bilderkennung getäuscht, wird dieses Experiment tatsächlich verwendet, um die Inkonsistenzen im System zu beseitigen. Diejenigen, die in diesem Bereich arbeiten, müssen sich jetzt an verrauschte Daten anpassen, die in den Motivbildern enthalten sein können. Diese Erkenntnis könnte maschinell lernenden Systemen die Möglichkeit geben, sich in Zukunft gegen ähnliche Täuschungen zu verbessern.
