Gesichtserkennung: Zehn Tage im Knast wegen KI-Fail

29.12.2020 Tomislav Bezmalinovic

Die KI-App Clearview ist kontrovers genug. Nun musste ein Mann unrechtmäßig hinter Gitter, weil die Gesichtserkennung der Software versagte.

Die Smartphone-App nutzt ein System, das im Internet permanent nach Fotos von Personen sucht und damit eine riesige Gesichterdatenbank füttert. Lädt man ein Bild in die App hoch, werden darauf dargestellte Personen binnen Sekunden identifiziert und der Nutzer erhält Links zu deren Social-Media-Accounts und persönlichen Informationen (siehe Artikel Das weiß die Clearview-App über euch). Die technische Grundlage dieser bildbasierten Personensuchmaschine ist KI-Gesichtserkennung.

Clearview AI bietet die App laut eigenen Angaben nur Strafverfolgungsbehörden an. Berichte zeigen jedoch, dass das Unternehmen es damit nicht so ernst nimmt. So sollen unter anderem Superreiche und Privatunternehmen Zugriff auf die KI-App bekommen haben.

Seit dem Clearview-Enthüllungsbericht der New York Times vor einem Jahr sorgte das Start-up wieder und wieder für negative Schlagzeilen und geriet ins Visier von Datenschützern und Politikern. In Kanada wird die Software wegen Ermittlungen der dortigen Datenschutzbehörde nicht mehr verkauft.

Unschuldig hinter Gitter

Dass eine Fehlidentifikation der KI-App böse Folgen haben kann, zeigt ein aktueller Fall aus den USA: Im Bundesstaat New Jersey suchte die Polizei nach einem Dieb, der in einem Hotel Süßigkeiten und Snacks geklaut und anschließend bei einem Fluchtversuch ein Polizeiauto gerammt haben soll, und ließ Bilder vom Tatort von der Clearview-App analysieren.

Die identifizierte einen vorbestraften Mann namens Nijeer Parks, der zur Polizeistation vorgeladen wurde. Parks gab jedoch an, nie in der Stadt gewesen zu sein, in der der Diebstahl stattfand. Die Polizisten nahmen ihn dennoch direkt in der Polizeistation in Handschellen noch vor der eigentlichen Vernehmung.

Laut Parks hatte die Polizei die Verhaftung schon im Sinn, als er an der Station ankam. Beamte sollen ihm gesagt haben: „Du weißt, was du getan hast.“

Nachdem ein Richter mehr Beweise von den Ermittlern gefordert hatte, wurde die Anklage fallengelassen. Zu diesem Zeitpunkt hatte Parks bereits zehn Tage im Gefängnis verbracht und hohe Anwaltskosten zu beklagen. Der Fall führte in New Jersey zu einem Gesichtserkennungs-Moratorium und der Ausarbeitung von Gesetzen, die die Nutzung entsprechender Software regeln soll.

Der Vorfall zeigt erneut, was passieren kann, wenn Gesichtserkennung fehlschlägt. Der US-Amerikaner Robert Julian-Borchak Williams wurde im Sommer ebenfalls wegen einer KI-Panne unrechtmäßig verhaftet.

Tests mit Gesichtserkennung in London und New York zeigten, dass entsprechende Systeme grundsätzlich fehleranfällig sind. Sie schlugen in 81 Prozent der Fälle fehl oder erkannten niemanden. Ähnliche Resultate ergab auch eine Testreihe der Bundespolizei am Berliner Südkreuz.

Das bislang strengste Gesetz gegen Gesichtserkennung erließ die US-Stadt Portland. Der Einsatz ist verboten und wird mit hohen Geldstrafen geahndet.

Quelle: NJ.com

Weiterlesen über Gesichtserkennung:

• Fawkes: Mit dieser App kontert ihr KI-Gesichtserkennung
• KI-Überwachung in Russland: Gericht fällt brisantes Urteil
• Studie: Mund-Nase-Schutz bringt Gesichtserkennung aus dem Takt

Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.