Automatische Gesichtserkennung und -Zuordnung auf Bildern im Sozialen Netzwerk bringen Betroffenen im US-Bundesstatt Illinois jetzt 350 Dollar – pro Person.

Überwachung durch KI-Systeme verspricht allgegenwärtige Sicherheit und exakte Feststellung von Fakten. Also die totale Objektivität. Neben mehr Gerechtigkeit bringt das effizientere Strafverfolgungsbehörden und natürlich auch ein gewisses Maß an Abschreckung. Unsere Welt wird sicherer.

Soweit die Theorie. In der Praxis zeigen sich signifikante Fehlleistungen von Gesichtserkennungssystemen, der wohl bekanntesten Form von KI-Überwachung. Künstliche Intelligenz wird oft mit vorurteilsbelasteten Daten trainiert und wertet oder entscheidet entsprechend. Dunkelhäutige Menschen werden Studien zufolge dabei deutlich öfter falsch positiv erkannt als hellhäutige Menschen.

Gesichtserkennung landet immer öfter vor Gericht

Fehlleistungen im Bereich der Gesichtserkennung haben im öffentlichen Raum bereits zu Konsequenzen geführt. In US-Städten wie Portland oder San Francisco ist der Einsatz verboten. Amazon und Microsoft stoppten den Verkauf ihrer KI-Überwachungssysteme an US-Behörden, bis eine vernünftige gesetzliche Regelung geschaffen werde.

MIXED.de Podcast: VR, AR und KI - jede Woche neu

Jetzt reinhören: Alle Folgen


Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.