Der Artikel kann nur mit aktiviertem JavaScript dargestellt werden. Bitte aktiviere JavaScript in deinem Browser und lade die Seite neu.
Die KI-App Clearview ist kontrovers genug. Nun musste ein Mann unrechtmäßig hinter Gitter, weil die Gesichtserkennung der Software versagte.
Mit Werbeeinnahmen bezahlen wir unsere Redakteur:innen. Mit einem MIXED-Abo kannst Du unsere Seite werbefrei lesen.
Die Smartphone-App nutzt ein System, das im Internet permanent nach Fotos von Personen sucht und damit eine riesige Gesichterdatenbank füttert. Lädt man ein Bild in die App hoch, werden darauf dargestellte Personen binnen Sekunden identifiziert und der Nutzer erhält Links zu deren Social-Media-Accounts und persönlichen Informationen (siehe Artikel Das weiß die Clearview-App über euch). Die technische Grundlage dieser bildbasierten Personensuchmaschine ist KI-Gesichtserkennung.
Clearview AI bietet die App laut eigenen Angaben nur Strafverfolgungsbehörden an. Berichte zeigen jedoch, dass das Unternehmen es damit nicht so ernst nimmt. So sollen unter anderem Superreiche und Privatunternehmen Zugriff auf die KI-App bekommen haben.
Dass eine Fehlidentifikation der KI-App böse Folgen haben kann, zeigt ein aktueller Fall aus den USA: Im Bundesstaat New Jersey suchte die Polizei nach einem Dieb, der in einem Hotel Süßigkeiten und Snacks geklaut und anschließend bei einem Fluchtversuch ein Polizeiauto gerammt haben soll, und ließ Bilder vom Tatort von der Clearview-App analysieren.
Die identifizierte einen vorbestraften Mann namens Nijeer Parks, der zur Polizeistation vorgeladen wurde. Parks gab jedoch an, nie in der Stadt gewesen zu sein, in der der Diebstahl stattfand. Die Polizisten nahmen ihn dennoch direkt in der Polizeistation in Handschellen noch vor der eigentlichen Vernehmung.
Laut Parks hatte die Polizei die Verhaftung schon im Sinn, als er an der Station ankam. Beamte sollen ihm gesagt haben: „Du weißt, was du getan hast.“
Nachdem ein Richter mehr Beweise von den Ermittlern gefordert hatte, wurde die Anklage fallengelassen. Zu diesem Zeitpunkt hatte Parks bereits zehn Tage im Gefängnis verbracht und hohe Anwaltskosten zu beklagen. Der Fall führte in New Jersey zu einem Gesichtserkennungs-Moratorium und der Ausarbeitung von Gesetzen, die die Nutzung entsprechender Software regeln soll.
Der Vorfall zeigt erneut, was passieren kann, wenn Gesichtserkennung fehlschlägt. Der US-Amerikaner Robert Julian-Borchak Williams wurde im Sommer ebenfalls wegen einer KI-Panne unrechtmäßig verhaftet.
Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.