Update: 12.06.2020

Das ging flott: Wenige Stunden nach Amazons angekündigtem KI-Verkaufsstopp an die US-Polizei legt Microsoft nach. Laut Microsoft-Präsident Brad Smith verkauft der Konzern keine Gesichtserkennungstechnologie mehr an die Polizei, bis ein nationales Gesetz die Regeln für deren Einsatz vorgibt. Microsoft will intern weitere Punkte festlegen, wie die Technologie in anderen Bereichen eingesetzt werden darf.

Ursprünglicher Artikel vom 11. Juni:

Amazon wird die eigene Gesichtserkennungssoftware Rekognition vorerst nicht mehr der Polizei zur Verfügung stellen.

Die Anti-Rassismus-Proteste in den USA bringen reichlich Bewegung in die Debatte über KI-gestützte Gesichtserkennung: IBM erklärte im Zuge der Proteste, dass es Gesichtserkennung für Massenüberwachung und rassistische Profilerstellung ablehne. Das IT-Unternehmen stellt die Forschung und Entwicklung entsprechender Software ein.

Jetzt reagiert auch Amazon, allerdings weniger drastisch: Polizeibehörden sollen für ein Jahr keinen Zugriff mehr auf die Gesichtserkennungssoftware Rekognition haben. Der Konzern setzt darauf, dass sich der US-Senat während dieser Zeit auf einen Rechtsrahmen einigt.

Organisationen, die Rekognition beispielsweise für die Suche nach vermissten Kindern einsetzen, können das weiterhin tun. Rekognition kann bis zu 100 Gesichter auf einem Bild gleichzeitig scannen und auf unterschiedliche Faktoren analysieren.

Häufige Kritik an Rekognition

Keine andere Gesichtserkennungssoftware stand seit 2016 häufiger in der Kritik als Rekognition. Das dürfte in erster Linie daran liegen, dass sie gerade bei Behörden weit verbreitet ist und somit die typischen Schwächen der automatisierten Erkennungssysteme wie eine höhere Fehlerquote bei schwarzen Menschen besonders stark ins Gewicht fallen.

Öffentlichkeitswirksame Tests zeigten die Schwächen der Gesichtsanalyse-KI, beispielsweise als sie 28 Mitglieder des US-Kongresses für Kriminelle hielt.

Investoren und Abgeordnete forderten wiederholt einen Verkaufsstopp der KI an Behörden. Bislang ignorierte Amazon diese Forderungen und versuchte stattdessen, die Software zu verbessern.

Amazon lenkt ein

Im Februar 2019 stellte Amazon ethische Leitlinien für den Einsatz von KI-Überwachung vor und forderte einen offenen Dialog, wie KI-Gesichtserkennung “angemessen eingesetzt und kontinuierlich weiterentwickelt” werden könne.

Amazon-Gründer Jeff Bezos nahm diesen Faden im letzten Herbst erneut auf und versprach Gesetzesvorschläge für die Regulierung von KI-Gesichtserkennung seitens Amazon, ohne allerdings Details zu nennen.

Mit Amazon, Google und dem Sicherheitsunternehmen Axon reagierten zuletzt drei große Technologieanbieter durch freiwillige Regulierung auf die potenziellen Gefahren der KI-Überwachung. Microsoft bietet KI-Gesichtsanalyse trotz kritischer Worte aus den eigenen Reihen weiter an.

Im April verabschiedete der Staat Washington ein Gesetz, das helfen soll, den Balanceakt zwischen gefährlicher Massenüberwachung und hilfreicher Kontrolle zu meistern: Es sieht unter anderem regelmäßige Berichte der Behörden vor und dass ein Mensch das Ergebnis der KI-Analyse bewerten muss, sofern rechtliche Konsequenzen drohen.

Was KI-gestützte Überwachung so gefährlich macht und weshalb sie auch ein Segen sein könnte, besprechen wir im MIXED Podcast Folge #180.

Quelle & Titelbild: Amazon

Weiterlesen über KI-Überwachung:

steady2

MIXED.de XR-Podcast - jetzt reinhören

Aktuell: Alles über Oculus Quest 2 | Alle Folgen



Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.