Ausgerechnet, möchte man sagen.

Einem Bericht von Wired zufolge wird in San Francisco ein Verbot von Gesichtserkennungskameras im öffentlichen Raum diskutiert. Aaron Peskin, ein Mitglied des Aufsichtsrates der Stadt, schlug das Verbot am Dienstag als Teil einer Reihe von Regeln zur Verbesserung der öffentlichen Überwachung vor.

“Ich muss noch davon überzeugt werden, dass diese Technologie einen Vorteil bietet, der das negative Potenzial überwiegt, wenn Behörden sie für Unterdrückung und Überwachung nutzen”, sagt Peskin. Sein Antrag wird derzeit geprüft.

Außerdem sollen städtische Behörden die Zustimmung des Aufsichtsrates einholen, bevor sie neue Überwachungstechnologie anschaffen. So müssten sie öffentlich begründen, weshalb sie die Technologie einsetzen wollen. Einmal im Jahr sollen sie berichten, wie die Technologie verwendet wird, mit wem Daten ausgetauscht werden und welche Beschwerden eingehen.

KI-Überwachung: Übermächtig mit Hang zur Diskriminierung

Ein gängiger Kritikpunkt an Gesichtserkennungstechnologie ist, dass sie fehlerhaft agieren und damit einzelnen Personen massiv Schaden zufügen kann. China lieferte dazu kürzlich ein eindrucksvolles Beispiel, bei dem ein Werbefoto auf einem Bus mit einer realen Person verwechselt wurde.

Die Folge: eine öffentliche Abmahnung der Person, weil sie als Fußgänger bei Rot die Straße gekreuzt haben soll. Auch Vorurteile in Datensätzen und daraus resultierende Diskriminierung gehören zu den häufig genannten Risiken der KI-Überwachung.

Die größte Gefahr: KI-gestützte Gesichtserkennung ist so genau und schnell, dass man ein deutlich feineres, effizienteres Überwachungsnetz spannen kann als mit herkömmlichen Überwachungskameras.

Zum Beispiel kann eine einzelne Person in Echtzeit auf einer Aufnahme erkannt und standortübergreifend weiterverfolgt werden – so ähnlich wie ein Tracking-Cookie im Netz von einer Webseite zur nächsten weitergegeben wird. Das ist auch nützlich, beispielsweise um vermisste Personen aufzuspüren.

Solche KI-Kameras sollen unter anderem Videos nach Personen durchsuchenLadendiebe an Gesten erkennen, Waffen entdecken und Alarmsysteme auslösen, Grenzkontrollen durchführen oder das Verhalten von Ladenbesuchern auswerten.

An der Schwelle zur Dystopie?

Zuletzt sprachen sich Microsoft und Google klar für ethische Leitlinien bei Gesichtserkennungstechnologie aus. Google verzichtet sogar auf den Vertrieb entsprechender Programmierschnittstellen, bis die Rahmenbedingungen geklärt sind.

“Die Welt steht an der Schwelle zu einer Technologie, die es einer Regierung ermöglicht, jedem jederzeit überallhin zu folgen”, sagt Microsoft-Präsident Brad Smith. “Sie können genau wissen, wohin du gehst, wo du gewesen bist und wo du gestern warst.”

Amazon hingegen bietet die Gesichtsanalyse-Software “Rekognition” an, die aus den zuvor genannten Gründen sogar bei den eigenen Investoren auf Gegenwehr stößt.

Weiterlesen über KI-Überwachung:


MIXEDCAST #169: Deepfake-Hollywood und VR-Hoffnung Oberhausen | Alle Folgen


Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.