Rekognition: US-Abgeordnete gehen gegen Amazon-Gesichtsanalyse vor
US-Abgeordnete befürchten, dass Amazons Gesichtsanalyse-KI "Rekognition" rassistische Vorurteile hat und die Freiheit der Bürger einschränkt.
Amazon bietet das KI-basierte Gesichtserkennungssystem US-Behörden wie der Polizei an. Es kann zum Beispiel vermisste Kinder oder Ladendiebe aufspüren. Die Kosten sollen bei nur rund zwölf US-Dollar pro Monat liegen.
US-Abgeordnete befürchten, dass der flächendeckende Einsatz von Gesichtserkennung - ähnlich wie in China - zu einem Überwachungsstaat führen könnte.
___STEADY_PAYWALL___Zudem gehen sie von rassistischen Vorurteilen im Datensatz aus, mit dem Rekognition trainiert wurde. Er enthält circa 25.000 Bilder von US-Bürgern aus dem ganzen Land - das ist für KI-Verhältnisse eher wenig Trainingsmaterial.
"Wir haben ernste Bedenken, dass das Produkt erhebliche Genauigkeitsprobleme hat, eine unverhältnismäßige Bürde für Menschen mit dunkler Hautfarbe ist und US-Bürger davon abhalten könnte, in der Öffentlichkeit frei zu agieren wie im Gesetz vorgesehen", schreiben die Abgeordneten in einem offenen Brief.
Sie fordern detaillierte Auskunft zu möglichen Vorurteilen der KI-Software über Herkunft, Geschlecht, Alter und Ethnie sowie zu Sicherheitsmaßnahmen für den Schutz der Privatsphäre und gegen Missbrauch. Amazon soll außerdem Kunden und genaue Einsatzorte benennen.
Auf frühere Anfragen habe Amazon keine ausreichenden Antworten geliefert. Dem Konzern bleiben jetzt zwei Wochen für eine Reaktion.
MIXED.de ohne Werbebanner- Zugriff auf mehr als 9.000 Artikel
MIXED.de ohne Werbebanner- Kündigung jederzeit online möglich
Rekognition: Mögliche rassistische Vorurteile
Die American Civil Liberties Union (Aclu) veröffentlichte im Sommer eine Untersuchung, nach der dunkelhäutige Menschen von Rekognition häufiger falsch erkannt werden als weiße.
Allerdings soll die Aclu für den Test einen Genauigkeitswert von nur 80 Prozent angewandt haben - das reicht laut Amazon für Objekte, für Menschen empfiehlt der Konzern einen Genauigkeitswert von 95 Prozent.
Interne Proteste ändern Amazons Kurs nicht
Mitarbeiterinnen und Mitarbeiter von Amazon protestierten gegen den Verkauf von Rekognition an US-Behörden. Mit Verweis auf positive Anwendungsszenarien - unter anderem seien vermisste Kinder gefunden und Menschenhandel sei verhindert worden - wiegelte Amazon die internen Beschwerden Anfang November ab.
Die Nutzungsbedingungen der Software untersagten außerdem einen Einsatz, der gegen die Menschenrechte verstößt.
Titelbild: Thierry Ehrmann bei Flickr. Lizenziert nach CC BY 2.0.
Weiterlesen über KI-Überwachung:
- Microsoft-Präsident warnt vor 1984-Szenario
- KI-System mit Röntgenblick sieht durch Wände
- Ein Überwachungsunternehmen ist Chinas wertvollstes KI-Startup
Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.
