Dass Urteil eines Computers ist nicht per se neutral und analytisch, sondern durch menschliche Vorgaben geprägt. Eine Untersuchung zur Verlässlichkeit von Gesichtserkennung untermauert das eindrucksvoll.

Die Studie der MIT-Informatikerin Joy Buolamwini zeigt, dass Gesichtserkennung mit einer Genauigkeit von 99 Prozent arbeitet – vorausgesetzt, das Gesicht gehört einem weißen Mann. Umso dunkler die Hautfarbe wird und desto femininer die Gesichtszüge, desto größer wird die Fehlerquote. Bei schwarzen Frauen liegt sie bei bis zu 46 Prozent, abhängig vom Lernverfahren und den untersuchten Bildern.

Buolamwini testete drei aktuelle maschinelle Lernsysteme von Microsoft, IBM und Face++, die zum Teil kommerziell eingesetzt werden. Die Stichprobe umfasste mehr als 1200 Fotos.

Aus 385 Fotos von weißen Männern wurden 99 Prozent richtig erkannt. Weiße Frauen wurden bei 296 Bildern zu 93 Prozent richtig erkannt. Dunkelhäutige Männer wurden bei 318 Bildern mit einer Genauigkeit von 88 Prozent identifiziert, dunkelhäutige Frauen durchschnittlich bei 271 Bildern mit nur 75 Prozent.

Computer kennen nur, was man ihnen zeigt

Ein Grund für diese Diskrepanz ist laut der New York Times, dass auf 75 Prozent der Referenzbilder, mit denen die KI-Systeme trainiert werden, weiße Männer zu sehen sind. Ein möglicher technischer Faktor sind die höheren Kontraste in weißen Gesichtern. Maschinelle Lernverfahren orientieren sich bei der Bilderkennung unter anderem an Farbwerten einzelner Pixel. Dass Frauen insgesamt schlechter erkannt werden, könne auch an den vielen unterschiedlichen Frisuren liegen.

Buolamwini jedenfalls möchte zukün…


MIXEDCAST #171: Das Carmack-Drama, Stormland und Magic Leak | Alle Folgen


Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.