Mittels Kameras können Computer die Umgebung zwar ähnlich sehen wie Menschen, aber ein generelles Verständnis für die Dinge geht ihnen ab. Entsprechend anfällig sind sie für visuelle Manipulation.

Zauberer oder Hütchenspieler tricksen gerne mit der visuellen Wahrnehmung ihrer Zuschauer, um sie Dinge glauben zu lassen, die eigentlich gar nicht passieren. Bei Menschen ist das eine vergleichsweise anspruchsvolle Aufgabe, die Planung und eine gekonnte Durchführung benötigt. Das liegt daran, dass Menschen nicht nur ein visuelles, sondern auch ein intellektuelles Verständnis für ihre Umwelt und die Dinge darin haben.

Dem sehenden Computer geht dieses Verständnis ab: Er analysiert nur Pixelwerte und schlussfolgert aus diesen, welches Objekt auf einem Bild zu sehen ist. Google-Forscher zeigen, dass das eine Schwachstelle ist, die leicht manipuliert werden kann.

Wow, ein wunderschöner Sticker!

In einer Untersuchung beweisen KI-Forscher von Google, dass man den Computer-Seh-Prozess mit einem einfachen Sticker aus dem Tritt bringen kann. Der Sticker kann mit jedem Farbdrucker hergestellt werden. Die Google-Forscher laden dazu ein, den im Experiment eingesetzten Sticker auszudrucken und zu testen.

Um den Sticker zu erstellen, setzten die Forscher einer Bildanalyse-KI eine gegnerische KI entgegen, die den Analyseprozess unterbrach, indem sie der Bildanalyse-KI im Bild zusätzliche Motive zeigte – Kreise gefüllt mit verschiedenen Farben und Mustern. Die Gegner-KI testete solange unterschiedliche Motive, bis sie eines fand, das die volle A…

MIXED.de Podcast: VR, AR und KI - jede Woche neu

Jetzt reinhören: Alle Folgen


Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.