Amazons KI-gestützte Gesichtsanalyse Rekognition soll nachweislich fehlerhaft sein. Eine Gruppe KI-Forscher fordert daher den Verkaufsstopp an staatliche Behörden.

In einem offenen Brief wenden sich 26 KI-Forscher gegen Amazons Gesichtserkennungssoftware “Rekognition”. Die Software war in den vergangenen Monaten wiederholt in die Kritik geraten, da sie laut der Kritiker Menschen mit dunkler Hautfarbe und Frauen durch höhere Fehlerraten bei der Gesichtserkennung benachteiligt. Das kann zum Beispiel zu folgenreichen Verwechslungen führen. Sogar Amazons Aktionäre forderten Ende Januar einen Verkaufsstopp der Software an staatliche Behörden.

Die KI-Forscher verweisen in ihrem Brief unter anderem auf eine aktuelle Studie, die nachweise, dass die Rekognition-Version von August 2018 eine deutlich höhere Fehlerrate bei der Geschlechtserkennung dunkelhäutiger Frauen habe im Vergleich zu hellhäutigen Männern (31 % vs. 0 %).

Wer überprüft möglichen Missbrauch?

Sie fordern Transparenz von Amazons KI-Entwicklern, die in einer Replik an Kritiker angeben, dass es bislang keine Berichte über Fehlfunktionen der Software seitens der Strafverfolgung gegeben habe.

Die Forscher widersprechen: Amazon habe weder die Kunden offengelegt noch die Fehlerraten bei sich überschneidenden Demografien. Außerdem fehlten Gesetze, die vorschreiben, wann ein Software-Fehler gemeldet werden muss.

Entsprechend könnten mögliche Fehler von Rekognition gar nicht überprüft werden. Die Forscher kritisieren den Einsatz “unreifer Technologien in Szenarien mit hohem Risiko”, ohne dass Gesetzgeber zuvor sichergestellt hätten, dass keine Bürgerrechte verletzt werden.

Sie wollen den Verkaufsstopp: “Wir fordern Amazon auf, den Verkauf von Rekognition an die Strafverfolgungsbehörden einzustellen, da es keine Gesetze und Garantien zur Verhinderung von Missbrauch gibt.”

Amazon will weitermachen

Anfang Februar versuchte Amazon, Kritiker mit ethischen Leitlinien für die KI-Gesichtsanalyse verstummen zu lassen. Die Leitlinien könnten der Politik als Anreiz dienen für die Entwicklung neuer Gesetze.

Neue Technologie dürfe aber nicht wegen eines möglichen Missbrauchs verboten oder verurteilt werden. Stattdessen brauche es einen offenen Dialog, wie KI-Gesichtserkennung “angemessen eingesetzt” und “kontinuierlich weiterentwickelt” werden kann. Die Arbeit an Rekognition soll gemeinsam mit Partnern fortgesetzt werden.

Weiterlesen über KI-Überwachung:


MIXED-Podcast #137: Vive-Konferenz, PSVR-Verkaufszahlen, Quest-Apps | Alle Folgen


Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.