Clearview-Chef Hoan Ton-That spricht über unbegründete Ängste vor automatisierter Gesichtserkennung und ihre unergründeten Potenziale.

In den USA wird KI-gestützte Gesichtserkennung seit Monaten kontrovers diskutiert. Auslöser der Diskussionen sind unter anderem rassistische Vorurteile von Amazons Rekognition in einem unabhängigen Test, der Clearview-Skandal und kürzlich die unbegründete Festnahme von Robert Julian-Borchak Williams. Das Versagen und der Missbrauch der KI-Systeme bei gleichzeitigem Einsatz durch Behörden schürt Misstrauen.

Einzelne US-Bundesstaaten und -Städte regulieren die Technologie bereits. Auch durch die Black-Lives-Matter-Proteste ausgelöst, setzen Amazon, Microsoft und IBM derzeit den Verkauf von KI-Gesichtserkennung an Sicherheitsbehörden aus.

Wenn drei streiken, freut sich Clearview

Der moralisch begründete Rückzug der großen Tech-Konzerne spielt dem umstrittenen KI-Startup Clearview AI in die Karten: Es verkauft die eigene Gesichtserkennungs-Software weiter – trotz Sammelklage, Rückzug aus Kanada und reichlich schlechter Presse.

Clearview AI crawlt für die eigene KI-Gesichtserkennung das Internet ununterbrochen nach Fotos von Personen. So entsteht eine Live-Suchmaschine, mit der Nutzer jedes öffentlich verfügbare Foto einer Person und damit zugehörige Social-Media-Accounts und andere Informationen finden können.

Clearview-Chef warnt vor Überregulierung

Die KI-Suchmaschine von Clearview klingt nach einer Utopie für Strafverfolgungsbehörden – und einer Dystopie für freiheitsliebende Menschen. Schon kurz nach Bekanntwerden des Services wurden die Rufe nach einem schnellen Verbot oder zumindest starken Regulierungen laut.

Ton-That warnt jedoch vor Schnellschüssen: Das offene Internet hätte mit starken Beschränkungen wie einem allzu restriktiven Schutz der Privatsphäre nie entstehen können. Neue Technologien würden grundsätzlich kritische beäugt, sagt Ton-That.

Statt allzu harter Regulierungen hofft er auf den gesunden Menschenverstand aller Beteiligten: “Was wir privat halten wollen, sollten wir nicht ins Internet stellen”, sagt Ton-That.

Einen völlig unregulierten Einsatz der Technologie will der Clearview-Chef nicht, es brauche staatliche Regulierungen für neue Technologien, die gemeinsam mit den Tech-Konzernen entworfen werden. Innerhalb der regulierenden Behörden mangele es häufig am technischen Verständnis.

Clearview fängt gerade erst an

Clearview sammle, anders als Facebook oder Google, keine privaten Informationen wie Aufenthaltsorte oder persönliche Präferenzen, betont Ton-That. Dennoch scheint Clearview noch lange nicht am Ende seiner Kapazitäten: Ton-That schätzt, Clearview habe nicht einmal ein Prozent der öffentlich verfügbaren Informationen gesammelt – ob er damit ausschließlich Fotos meint, ist unklar.

Trotz der im Verhältnis zur Gesamtmenge geringen Datenauswahl arbeite Clearviews Suchmaschine schon jetzt genau. Fehlidentifikationen seien sehr unwahrscheinlich. Sein Unternehmen habe die Suchmaschine mit 2,8 Milliarden Gesichtern getestet – angeblich sei es bei diesem Test zu keiner Fehlidentifikation gekommen. Rassistische Vorurteile wie in Amazons Rekognition seien ebenfalls nicht vorhanden, behauptet Ton-That.

Unabhängig bestätigen oder widerlegen lässt sich diese Behauptung nicht – es gibt keinen öffentlich zugänglichen Weg, das System zu überprüfen. Die durch eine falsche Gesichtserkennung ausgelöste Festnahme von Williams, die Testreihe der Bundespolizei am Berliner Südkreuz und ähnliche Fälle zeigen jedoch, dass die meisten KI-Gesichtserkennungssysteme nicht fehlerfrei laufen.

Menschen sollen KI-Fehler verhindern

Um mögliche Fehler zu vermeiden, scheint der Clearview-Chef auf menschliche Hilfe zu setzen. Die Gesichtserkennungs-KI werde von Strafverfolgungsbehörden primär auf statische Suchbilder mit anschließend menschlicher Kontrolle und nicht für Live-Video-Überwachung angewandt.

Letztere sei noch immer störungsanfällig. Das zeigen Tests in London und New York, in denen die Systeme in 81 Prozent der Fälle falsch lagen oder sogar niemanden erkannten.

Ton-That ist optimistisch, dass die KI-gestützte Gesichtersuche zu mehr Transparenz und Rechenschaftspflicht in der Strafverfolgung führen wird – schließlich seien Augenzeugenberichte oder vorurteilsbehaftete Ermittler häufig ein Problem. Systeme wie Clearview könnten ein faireres Justizsystem schaffen.

Clearview arbeitet mit Immigrations- und Zollbehörde zusammen

Ob Ton-Thats Prognose stimmt, könnte sich bald zeigen: Clearviews neuester Partner ist die US-Polizeibehörde für Immigration und Zoll (ICE). Ein Vertrag über Clearview-Nutzungslizenzen in Höhe von 224.000 US-Dollar wurde in der letzten Woche unterschrieben.

Wie die Washington Post berichtet, hat die ICE – wie auch das FBI – bereits Zugriff auf die Führerscheinfoto-Datenbank, eine “echte Goldmine für Gesichtserkennung”, titelt die Post. Anhand der Datenbank können bereits jetzt Millionen US-Bürgerinnen und -Bürger identifiziert werden – ohne Zustimmung der Betroffenen oder des Gesetzgebers.

Mit Clearviews Suchmaschine vervielfältigen sich die Möglichkeiten der Behörde, die immer wieder für ihr hartes Vorgehen an der Südgrenze der USA kritisiert wird. Dort werden Einwandererkinder von ihren Familien getrennt und Flüchtende unbefristet inhaftiert.

In einem Statement gegenüber The Verge beschreibt Ton-That den Einsatz der KI-Gesichtserkennung innerhalb der ICE: Clearviews Suchmaschine werde für laufende strafrechtliche Ermittlungen und die “Child Exploitation Unit” genutzt, die Kinderpornographie und sexuellen Missbrauch von Minderjährigen bekämpft.

“Clearview AI hat es der Behörde ermöglicht, Kinder im ganzen Land vor sexuellem Missbrauch und sexueller Ausbeutung zu retten”, sagt Ton-That.

Mehr über die Risiken und möglichen Vorteile KI-gestützter Überwachung gibt’s in unserem Podcast Folge #180.

Quelle: MIT Technology Review

Weiterlesen über KI-Überwachung:

steady2

MIXED.de Podcast: VR, AR und KI - jede Woche neu

Jetzt reinhören: Alle Folgen


Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.