Was tun gegen KI-Überwachung? Wie wäre es mit einem T-Shirt, das euch für Künstliche Intelligenz unsichtbar macht.

Kabetec VR-Brille

Auf Objekterkennung spezialisierte KIs können mit dezent manipulierten Bildern grundlegend getäuscht werden. So grundlegend, dass die KI zum Beispiel anstelle einer Schildkröte ein Gewehr erkennt oder eine Espressotasse statt eines Baseballschlägers.

Gewehr statt Schildkröte - MIT-Forscher zeigen, wie sie einen Bilderkennungsalgorithmus von Google mit einfachen Mitteln austricksen.

Googles Bild-KI hält eine Schildkröte für ein Gewehr, wenn die Farbzusammensetzung des Panzers leicht verändert wird. Bild: Google.

Man braucht nicht viel Fantasie, um sich vorzustellen, wie diese Schwachstelle für gravierende Verbrechen genutzt werden könnte: Autonome Autos könnten von der Fahrbahn gelenkt werden und militärische KI-Systeme Freunde und Feinde verwechseln. An KI-Sicherheitskontrollen könnten Waffen vorbeigeschmuggelt werden.

Unsichtbarkeits-Shirt ohne Zauberei

In der Dystopie allgegenwärtiger KI-Überwachung könnten sich derartige Ablenkungsmanöver auch als nützlich erweisen, wie jetzt Forscher des Massachusetts Institute of Technology (MIT) demonstrieren: Sie stellen ein “Gegner-T-Shirt” vor, das erste Anti-KI-Kleidungsstück, das erfolgreich Objekterkennungs-KIs austrickse, so die Forscher.

Die KI kann ihre Augen nicht vom Schachbrett-Muster lassen. Eine Person erkennt sie nicht. Bild: Xu et al.

MIXED.de XR-Podcast - jetzt reinhören

Aktuell: Unreal Engine 5 - ein neues Grafikzeitalter? | Alle Folgen



Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.