Was tun gegen KI-Überwachung? Wie wäre es mit einem T-Shirt, das euch für Künstliche Intelligenz unsichtbar macht.

Auf Objekterkennung spezialisierte KIs können mit dezent manipulierten Bildern grundlegend getäuscht werden. So grundlegend, dass die KI zum Beispiel anstelle einer Schildkröte ein Gewehr erkennt oder eine Espressotasse statt eines Baseballschlägers.

Gewehr statt Schildkröte - MIT-Forscher zeigen, wie sie einen Bilderkennungsalgorithmus von Google mit einfachen Mitteln austricksen.

Googles Bild-KI hält eine Schildkröte für ein Gewehr, wenn die Farbzusammensetzung des Panzers leicht verändert wird. Bild: Google.

Man braucht nicht viel Fantasie, um sich vorzustellen, wie diese Schwachstelle für gravierende Verbrechen genutzt werden könnte: Autonome Autos könnten von der Fahrbahn gelenkt werden und militärische KI-Systeme Freunde und Feinde verwechseln. An KI-Sicherheitskontrollen könnten Waffen vorbeigeschmuggelt werden.

Unsichtbarkeits-Shirt ohne Zauberei

In der Dystopie allgegenwärtiger KI-Überwachung könnten sich derartige Ablenkungsmanöver auch als nützlich erweisen, wie jetzt Forscher des Massachusetts Institute of Technology (MIT) demonstrieren: Sie stellen ein “Gegner-T-Shirt” vor, das erste Anti-KI-Kleidungsstück, das erfolgreich Objekterkennungs-KIs austrickse, so die Forscher.

Die KI kann ihre Augen nicht vom Schachbrett-Muster lassen. Eine Person erkennt sie nicht. Bild: Xu et al.

Die KI kann ihre Augen nicht vom Schachbrettmuster auf dem T-Shirt lassen. Die Person im T-Shirt übersieht sie einfach. Bild: Xu et al.

Um die KI auszutricksen, druckten die Forscher ein spezielles Karomuster auf die Vorderseite des T-Shirts. Sobald eine KI-gestützte Kamera dieses Muster erfasst, und das muss sie zwangsläufig, wenn sie den Menschen identifizieren will, bleibt sie an dem Muster hängen.

Das Muster täuscht die Kamera laut der Forscher auch dann noch verlässlich, wenn sich der Mensch bewegt. Das ist deshalb bemerkenswert, da sich der Blickwinkel der Kamera auf das Muster laufend ändert und außerdem Falten die Musterung beeinflussen.

Ein zweites Muster konnte die KI ebenfalls täuschen. Im Vergleich zu einer alternativen Methode schnitt das neue Muster besser ab (oben). Im Vergleich mit einem normalen Outfit wird der Unterschied besonders deutlich. Bild: Xu et al.

Die KI-Forscher entwickelten zwei unterschiedliche Täuschungsmotive. Im Vergleich zu einer alternativen Methode schnitt das neue Muster besser ab (oben). Im Vergleich mit einem normalen Outfit wird der Unterschied besonders deutlich (unten). Bild: Xu et al.

Die Forscher testeten das KI-Unsichtbarkeits-Shirt mit den weit verbreiteten Objekterkennungs-KIs YOLOv2 und Faster R-CNN. In immerhin 63 Prozent der Aufnahmen erkannten die KIs die Person mit dem T-Shirt nicht als Person. Eine vergleichbare Methode verbarg die Personen in nur 27 Prozent der Fälle.

Die Macher sehen ihr T-Shirt als ersten Schritt auf dem Weg zu einer verlässlichen KI-Täuschung durch Kleidung, Bemalung oder andere Wearables. Mit ihrer Forschung zeigen sie, dass sich Überwachungssysteme auch mit verhältnismäßig unauffälligen Mitteln austricksen lassen.

Titelbild: Xu et al., Quelle: Arxiv

Weiterlesen über Künstliche Intelligenz:


MIXEDCAST #167: Varjo VR-2 Ersteindruck, Hololens 2teindruck und AR-Brillen-Schwemme | Alle Folgen


Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.