Rekognition: US-Abgeordnete gehen gegen Amazon-Gesichtsanalyse vor

Rekognition: US-Abgeordnete gehen gegen Amazon-Gesichtsanalyse vor

US-Abgeordnete befürchten, dass Amazons Gesichtsanalyse-KI "Rekognition" rassistische Vorurteile hat und die Freiheit der Bürger einschränkt.

Anzeige
Anzeige

Amazon bietet das KI-basierte Gesichtserkennungssystem US-Behörden wie der Polizei an. Es kann zum Beispiel vermisste Kinder oder Ladendiebe aufspüren. Die Kosten sollen bei nur rund zwölf US-Dollar pro Monat liegen.

US-Abgeordnete befürchten, dass der flächendeckende Einsatz von Gesichtserkennung - ähnlich wie in China - zu einem Überwachungsstaat führen könnte.

___STEADY_PAYWALL___

Zudem gehen sie von rassistischen Vorurteilen im Datensatz aus, mit dem Rekognition trainiert wurde. Er enthält circa 25.000 Bilder von US-Bürgern aus dem ganzen Land - das ist für KI-Verhältnisse eher wenig Trainingsmaterial.

"Wir haben ernste Bedenken, dass das Produkt erhebliche Genauigkeitsprobleme hat, eine unverhältnismäßige Bürde für Menschen mit dunkler Hautfarbe ist und US-Bürger davon abhalten könnte, in der Öffentlichkeit frei zu agieren wie im Gesetz vorgesehen", schreiben die Abgeordneten in einem offenen Brief.

Sie fordern detaillierte Auskunft zu möglichen Vorurteilen der KI-Software über Herkunft, Geschlecht, Alter und Ethnie sowie zu Sicherheitsmaßnahmen für den Schutz der Privatsphäre und gegen Missbrauch. Amazon soll außerdem Kunden und genaue Einsatzorte benennen.

Auf frühere Anfragen habe Amazon keine ausreichenden Antworten geliefert. Dem Konzern bleiben jetzt zwei Wochen für eine Reaktion.

logo
  • checkMIXED.de ohne Werbebanner
  • checkZugriff auf mehr als 9.000 Artikel
  • checkKündigung jederzeit online möglich
ab 3,50 € / Monat
logo

Rekognition: Mögliche rassistische Vorurteile

Die American Civil Liberties Union (Aclu) veröffentlichte im Sommer eine Untersuchung, nach der dunkelhäutige Menschen von Rekognition häufiger falsch erkannt werden als weiße.

Allerdings soll die Aclu für den Test einen Genauigkeitswert von nur 80 Prozent angewandt haben - das reicht laut Amazon für Objekte, für Menschen empfiehlt der Konzern einen Genauigkeitswert von 95 Prozent.

Interne Proteste ändern Amazons Kurs nicht

Mitarbeiterinnen und Mitarbeiter von Amazon protestierten gegen den Verkauf von Rekognition an US-Behörden. Mit Verweis auf positive Anwendungsszenarien - unter anderem seien vermisste Kinder gefunden und Menschenhandel sei verhindert worden - wiegelte Amazon die internen Beschwerden Anfang November ab.

Die Nutzungsbedingungen der Software untersagten außerdem einen Einsatz, der gegen die Menschenrechte verstößt.

Titelbild: Thierry Ehrmann bei Flickr. Lizenziert nach CC BY 2.0.

Weiterlesen über KI-Überwachung: