Amazons KI-Gesichtserkennungssoftware “Rekognition” wird ungewollt Teil eines Protestes gegen KI-Überwachung.

In Washington, D.C. behelmten sich drei Aktivisten der Initiative “Fight for the Future” mit einem Smartphone und wanderten durch die Menschenmengen.

Die Smartphone-Kamera filmte Gesichter, Amazons umstrittene KI-Gesichtserkennungssoftware Rekognition analysierte sie in Echtzeit.

Mit einer Smartphone-Helmkamera und Amazons KI-Software Rekognition scannten die Aktivisten Gesichter. Bild: Fight for the Future

Mit einer Smartphone-Helmkamera und Amazons KI-Software Rekognition scannten die Aktivisten Gesichter. Bild: Fight for the Future

Innerhalb weniger Stunden konnten die Aktivisten 13.740 menschliche Gesichter scannen. Dabei wurden laut der Initiative 25 Lobbyisten und sieben Journalisten falsch identifiziert, die vorab in das System geladen wurden.

Sogar der 1988 verstorbene US-Sänger Roy Orbison (Oh, Pretty Woman, Only the Lonely) wurde von Rekognition vermeintlich erkannt. Immerhin einen Kongressabgeordneten konnte die Software korrekt identifizieren.

“Das unterstreicht unsere Botschaft: Gesichtserkennung ist invasiv und gefährlich, wenn sie funktioniert, aber auch gefährlich, wenn sie nicht funktioniert”, schreiben die Aktivisten. Das Scanning wurde live im Internet übertragen. Die Aufnahmen sollen bis Ende November gelöscht werden.

“Das sollte illegal sein”

Die Aktivisten protestierten mit der Aktion gegen fehlende Gesetze im Umgang mit KI-gestützter Gesichtserkennung. Ihre eigene Scanning-Aktion, finden sie, sollte illegal sein – sei sie laut Gesetzgeber aber nicht.

Sie fordern eine Verbannung der Technologie: “Überwachung per Gesichtserkennung ist unzuverlässig, voreingenommen und stellt eine Bedrohung für die Grundrechte und die Sicherheit dar”, heißt es auf der Webseite, die zur Teilnahme an einer Petition auffordert.

In den USA haben bislang San Francisco, Somerville, Massachusetts, und Oakland Verbote gegen Gesichtserkennungstechnologie für Behörden ausgesprochen. Ein US-weites Verbot wird seit März diskutiert, bislang noch ohne Ergebnis.

Quelle: Fight for the Future

Weiterlesen über KI-Überwachung:

steady2

MIXEDCAST #171: Das Carmack-Drama, Stormland und Magic Leak | Alle Folgen


Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.