"Master"-Gesichter sollen Gesichtserkennung knacken
Israelische Forscher erschaffen mit GAN-Technik ein Durchschnittsgesicht, das wie ein Generalschlüssel für Gesichtserkennungssysteme funktionieren soll.
Forscher der Blavatnik School of Computer Science und der School of Electrical Engineering in Tel Aviv veröffentlichen eine Arbeit, in der sie die Entwicklung eines "Master Face" beschreiben, eine Art visueller Generalschlüssel für Gesichtserkennungssysteme.
Nur neun generierte Gesichter sollen für 40 Prozent der Bevölkerung die drei führenden KI-Gesichtserkennungssysteme mit einem sogenannten Wörterbuchangriff, also durch Durchprobieren, täuschen können.
___STEADY_PAYWALL___KI überlistet KI
Für die Erzeugung der Generalschlüsselgesichter verwenden die Forscher Nvidias Open Source KI-Modell StyleGan, das auf die Generierung menschlicher Gesichter trainiert ist und häufig im Deepfake-Kontext eingesetzt wird. Die Forscher konzentrierten sich auf die allgemeinsten Gesichtsmerkmale und verfeinerten diesen Ansatz.
Die künstlich generierten Gesichter, "die ähnlich sein sollen zu einem Großteil der Bevölkerung", testeten die Forscher mit den Gesichtserkennungsmodellen FaceNet, SphereFace und Dlib und in Relation zur Datenbank "Labeled Faces in the Wild" der Universität Massachusetts.
Die Beispiele in der Datenbank werden für die Entwicklung und für Tests von Gesichtserkennungssystemen verwendet. Bei ihrem Test fanden die Forscher heraus, dass ein einzelnes generiertes Gesicht circa 20 Prozent der Identitäten im Datensatz abdecken kann. Tendenziell erreichten insbesondere generierte Bilder von älteren weißen Männern hohe erfolgreiche Täuschungsraten. Die Forscher beschreiben diese Beobachtung zwar, untersuchen sie aber nicht weiter.
MIXED.de ohne Werbebanner- Zugriff auf mehr als 9.000 Artikel
MIXED.de ohne Werbebanner- Kündigung jederzeit online möglich
Die Mastergesichter und ihre Abdeckungsrate innerhalb des Test-Datensatzes. | Bild: Shmelkin et al.
Mit einer erweiterten Gesichtsgenerierungsmethode, bei der die Master-Gesicht-Erstellung mehrfach wiederholt wird und bei jeder Wiederholung gezielt die Identitäten berücksichtigt, die bei den zuvor generierten Gesichtern nicht abgedeckt wurden, erreichten die Forscher mit nur neun generierten Gesichtern eine Abdeckungsrate von circa 40 bis 60 Prozent in der Testdatenbank.
Forscher vermuten weitreichende Sicherheitslücke bei Gesichtserkennung
Aufgrund ihrer Ergebnisse bezeichnen die Forscher Gesichtserkennungssysteme als "extrem verwundbar", sogar dann, wenn es keine Informationen über die Identität der zu identifizierenden Person gebe. Sie schlagen vor, dass die generierten Gesichter mit Deepfake-Technik animiert werden könnten, um auch Live-Bilder basierte Gesichtserkennung zu umgehen.
Umgekehrt könnten die generierten Master-Gesichter möglicherweise verwendet werden, um Gesichtserkennungssysteme vor Angriffen zu schützen und die Falsch-Positiv-Rate zu reduzieren.
Die Studie ist bei Arxiv veröffentlicht und hat offenbar noch nicht den Prüfungsvorgang für ein wissenschaftliches Fachjournal durchlaufen. Falls die Ergebnisse verifiziert werden, dürften sie umfangreiche Auswirkungen haben für die Entwicklung von Gesichtserkennungssystemen.
Weiterlesen über KI-Überwachung:
- KI-Überwachung mal anders: KI prüft unaufmerksame Politiker
- Datenschutz: "Clearview AI ist illegale Massenüberwachung"
- KI-Überwachung: Moskauer Gesichtserkennung ausgespäht
Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.
