Es soll der erste bekannte Fall sein, bei dem Künstliche Intelligenz gezielt für ethnisches Profiling eingesetzt wird.

Innerhalb eines Monats soll die chinesische Regierung eine halbe Million Chinesen mittels KI-Gesichtsscan auf ihre ethnische Herkunft überprüft haben – in nur einer Stadt. Das berichtet die New York Times unter Berufung auf Einsicht in Datenbanken sowie Gespräche mit fünf Personen, die aus Angst vor Strafen anonym über den Einsatz der KI-Überwachung erzählten. Die fünf Personen sollen das System aus erster Hand kennen. Überwacht wurde die meist muslimische Minderheit der Uigurinnen und Uiguren.

Es soll der erste Fall sein, bei dem eine Regierung Künstliche Intelligenz (KI) für die polizeiliche Überwachung von Menschen anhand ihrer Haut- und Haarfarbe sowie ihrer Gesichtszüge einsetzt – sogenanntes Racial Profiling. Laut der Zeitung wurde eine fortschrittliche KI-Software eingesetzt, die zuvor mit Aufnahmen tausender Uiguren und Nicht-Uiguren trainiert wurde für eine bessere Unterscheidung der Bevölkerungsgruppen.

Mit entsprechender KI-Software ausgerüstete Kameras sollen Uiguren erkennen sowie ihr Kommen und Gehen protokollieren. Im Februar soll es allein in der Stadt Sanmenxia zu den eingangs erwähnten 500.000 Überprüfungen gekommen sein.

Fast zwei Dutzend Polizeidienststellen in 16 verschiedenen Provinzen und Regionen Chinas sollen die Technologie seit 2018 angefordert haben. Rund elf Millionen Uiguren sollen auf diese Weise auch außerhalb ihrer autonomen Heimatprovinz Xinjiang in ganz China überwacht werden, vornehmlich in den wohlhabenden Städten des Ostens und im Zentrum.

Automatischer Uiguren-Alarm für Behörden

Mehrere Software-Unternehmen bieten die Überwachungstechnologie an. Eines davon, Cloud Walk, beschreibt laut der New York Times die KI-Überwachung in einer Werbeunterlage wie folgt: “Wenn in einem Viertel nur ein Uigure lebt und innerhalb von 20 Tagen sechs weitere Uiguren erscheinen, wird bei den Sicherheitsbehörden direkt Alarm ausgelöst.”

Interessant ist der Umgang mit KI-Überwachung in China im Kontrast zur aktuellen Ethik-Diskussion im Westen: In den USA muss sich Amazon seit Monaten wiederholt rechtfertigen, weil die KI-gestützte Gesichtserkennungssoftware “Rekognition” rassistische Tendenzen haben soll und beispielsweise Frauen mit dunkler Hautfarbe schlechter identifiziert. In China wird derweil technisch ähnliche Software gezielt für die systematische Benachteiligung von Minderheiten eingesetzt.

Quelle: New York Times

Weiterlesen über KI-Überwachung:


MIXED-Podcast #137: Vive-Konferenz, PSVR-Verkaufszahlen, Quest-Apps | Alle Folgen


Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.