Rekognition: US-Abgeordnete gehen gegen Amazon-Gesichtsanalyse vor

1.12.2018 Matthias Bastian

US-Abgeordnete befürchten, dass Amazons Gesichtsanalyse-KI "Rekognition" rassistische Vorurteile hat und die Freiheit der Bürger einschränkt.

Amazon bietet das KI-basierte Gesichtserkennungssystem US-Behörden wie der Polizei an. Es kann zum Beispiel vermisste Kinder oder Ladendiebe aufspüren. Die Kosten sollen bei nur rund zwölf US-Dollar pro Monat liegen.

US-Abgeordnete befürchten, dass der flächendeckende Einsatz von Gesichtserkennung - ähnlich wie in China - zu einem Überwachungsstaat führen könnte.

Zudem gehen sie von rassistischen Vorurteilen im Datensatz aus, mit dem Rekognition trainiert wurde. Er enthält circa 25.000 Bilder von US-Bürgern aus dem ganzen Land - das ist für KI-Verhältnisse eher wenig Trainingsmaterial.

"Wir haben ernste Bedenken, dass das Produkt erhebliche Genauigkeitsprobleme hat, eine unverhältnismäßige Bürde für Menschen mit dunkler Hautfarbe ist und US-Bürger davon abhalten könnte, in der Öffentlichkeit frei zu agieren wie im Gesetz vorgesehen", schreiben die Abgeordneten in einem offenen Brief.

Sie fordern detaillierte Auskunft zu möglichen Vorurteilen der KI-Software über Herkunft, Geschlecht, Alter und Ethnie sowie zu Sicherheitsmaßnahmen für den Schutz der Privatsphäre und gegen Missbrauch. Amazon soll außerdem Kunden und genaue Einsatzorte benennen.

Auf frühere Anfragen habe Amazon keine ausreichenden Antworten geliefert. Dem Konzern bleiben jetzt zwei Wochen für eine Reaktion.

Bitte dieses Feld leer lassen

XR-Briefing
Hol dir die wichtigsten News aus der Zukunft der Computer wöchentlich bequem ins E-Mail-Postfach.

• VR, AR, KI & mehr
• kostenlos
• jederzeit kündbar

Datenschutzerklärung

Prüfe deinen Posteingang oder Spam-Ordner, um dein Abonnement zu bestätigen.

Rekognition: Mögliche rassistische Vorurteile

Die American Civil Liberties Union (Aclu) veröffentlichte im Sommer eine Untersuchung, nach der dunkelhäutige Menschen von Rekognition häufiger falsch erkannt werden als weiße.

Allerdings soll die Aclu für den Test einen Genauigkeitswert von nur 80 Prozent angewandt haben - das reicht laut Amazon für Objekte, für Menschen empfiehlt der Konzern einen Genauigkeitswert von 95 Prozent.

Interne Proteste ändern Amazons Kurs nicht

Mitarbeiterinnen und Mitarbeiter von Amazon protestierten gegen den Verkauf von Rekognition an US-Behörden. Mit Verweis auf positive Anwendungsszenarien - unter anderem seien vermisste Kinder gefunden und Menschenhandel sei verhindert worden - wiegelte Amazon die internen Beschwerden Anfang November ab.

Die Nutzungsbedingungen der Software untersagten außerdem einen Einsatz, der gegen die Menschenrechte verstößt.

Titelbild: Thierry Ehrmann bei Flickr. Lizenziert nach CC BY 2.0.

Weiterlesen über KI-Überwachung:

• Microsoft-Präsident warnt vor 1984-Szenario
• KI-System mit Röntgenblick sieht durch Wände
• Ein Überwachungsunternehmen ist Chinas wertvollstes KI-Startup

Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.