Eine KI-Panne in China zeigt, wie schnell sich KI-gestützte Überwachung gegen die Bürger wenden kann.

In der Stadt Ningbo auf einem der in China gängigen öffentlichen Anklagemonitore taucht das Gesicht von Dong Mingzhu auf (siehe Titelbild).

Dongs vermeintliches Vergehen untertitelt das Foto: Sie soll bei Rot über die Ampel gelaufen sein. Entdeckt wurde diese Straftat von einer mit Gesichtsanalysetechnologie ausgestatteten Überwachungskamera, berichtet die Webseite Abacus.

Das Problem: Dong Mingzhu war überhaupt nicht anwesend, als sie bei Rot über die Straße gelaufen sein soll. Die Überwachungskamera fiel auf einen vorbeifahrenden Bus herein, der ein Foto der Frau auf die Seite gedruckt hatte. Denn Dong ist eine Geschäftsfrau: Sie wirbt mit ihrem Konterfei für Klimaanlagen.

Ein Foto des Anklagemonitors mit Dongs Gesicht darauf machte beim chinesischen Kurznachrichtendienst Weibo die Runde, die Leute hatten ihren Spaß mit der KI-Panne. Die Polizei von Ningbo räumte den Fehler kurz darauf ein: “Ein Eigentor.” Die Behörde löschte den Strafpunkt in Dongs Verhaltensregister. Weiter sei ein Update eingespielt worden, um ähnliche Fehler zukünftig zu vermeiden.

Die KI-Panne wirft vor allem eine Frage auf: Was ist, wenn Menschen fälschlicherweise eines Vergehens beschuldigt werden, die nicht so populär sind wie Dong?

Tausende Rotgänger gemeldet

Nach Angaben der Stadt Ningbo überwachen die KI-K…

MIXED.de XR-Podcast - jetzt reinhören

Aktuell: Radioaktive Daten und VR Auferstehung | Alle Folgen



Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.