In den Köpfen mancher Menschen ist eine sich verselbstständigende Künstliche Intelligenz, vielleicht sogar eine überlegene Super-KI, eine grundlegende Bedrohung für die Menschheit. Laut PayPal-Milliardär Peter Thiel sollten wir uns eher vor KI-Überwachung sorgen, die bereits heute sicht- und spürbar ist.
KI-gestützte Überwachungssysteme erweisen sich als besonders effizient, da sie den Faktor Mensch aus der Gleichung nehmen: Überwachungsanwendungen wie etwa Clearview können innerhalb von Sekunden gigantische Foto-Datenbanken durchsuchen, einzelne Menschen identifizieren und ihre Daten im Internet aufspüren. Clearview hat laut eigenen Angaben mehr als zehn Milliarden Aufnahmen in der eigenen Datenbank. Die App wird von zahlreichen Behörden weltweit eingesetzt.
Laut einer Studie aus 2019 verwenden mindestens 75 von 176 untersuchten Staaten KI-Überwachung, 64 von ihnen für die Videoüberwachung mit Gesichtserkennung. Eine aktuelle US-Studie beschreibt, dass Gesichtserkennung in den USA bis 2023 deutlich auf dem Vormarsch ist.
Hinzu kommt, dass auf neuronalen Netzen basierende Gesichtserkennung auch in alltäglichen Szenarien zum Einsatz kommt. In Moskau etwa erhält man per "Face Pay" Eingang zur Metro, britische Schüler:innen bezahlen testweise an einigen Schulen ihr Mittagessen per Gesichtsscan. Es existieren viele weitere Beispiele.
Peter Thiel sieht totale Überwachung als größtes KI-Risiko
Tech-Milliardär Peter Thiel warnt bei einer Veranstaltung vor den Risiken der KI-Überwachung. Wer sich im Kontext Künstlicher Intelligenz vor der hypothetischen Allmacht einer gottgleichen Super-KI sorge, „befasse sich nicht mit der Sache, die wirklich wichtig ist“.
Überwachungs-KI ist laut Thiel ein unausweichlicher Schritt auf dem Entwicklungspfad hin zu mächtigerer KI: Möglicherweise sei eine Super-KI in X Jahren möglich, aber auf dem Weg dorthin würde zuerst eine Überwachungs-KI entstehen.
"Alle Pfade zu allgemeiner KI führen durch Überwachungs-KI", sagt Thiel. Alternative Pfade hält Thiel für unwahrscheinlich, da letztlich große Datenmengen der Ursprung der Systeme seien.
Auf das Fernziel mächtige KI hinzuweisen und so das kurzfristige Risiko der KI-Überwachung auszublenden, bezeichnet Thiel als "Zaubertrick" der Befürworter:innen solcher Systeme. Einige wenige Menschen könnten mit KI sehr viele Menschen kontrollieren. Thiel bezeichnet KI in diesem Kontext als „kommunistische totalitäre Technologie“ und nennt den KI-Einsatz der chinesischen Regierung als Negativbeispiel.
Thiels Geld stecht in KI-Überwachung
Interessant ist Thiels Warnung insbesondere im Kontext seiner eigenen Investitionen: Thiels Geld steckt in der Big-Data-Analysefirma Palantir, außerdem unterstützt er die Rüstungsfirma Anduril, die sich mit Überwachungstechnologie fürs Militär befasst und den Zuschlag für den berüchtigten Maven-Vertrag des Pentagons erhielt. Thiel leistete außerdem bei Clearview Anschubfinanzierung, da er den späteren Gründer Hoan Ton-That mit 200.000 US-Dollar unterstützte und später Anteile an Clearview erhielt.
Auch in OpenAI, die KI-Organisation mit dem erklärten Forschungsziel allgemeine Künstliche Intelligenz, ist Thiel investiert. OpenAI ist für KI-Innovationen wie die Sprach-KI GPT-3 bekannt.
Laut Thiel wird im Silicon Valley heute deutlich weniger über allgemeine KI gesprochen als noch vor sechs oder sieben Jahren. Elon Musk würde nicht mehr darüber reden, Google-Gründer Larry Page habe sich auf die Fidschi Inseln verzogen und würde wohl "nicht mehr so hart daran arbeiten", berichtet Thiel leicht ironisch. Der Fokus verschiebe sich auf Überwachungsthemen.
Warnungen vor KI-Überwachung – Thiel ist in prominenter Gesellschaft
Thiel ist mit seiner Warnung vor KI-Überwachung in prominenter Gesellschaft: Der Whistleblower Edward Snowden etwa befürchtet mit weiterer Verbreitung von KI-Technik einen nicht mehr zu kontrollierenden Machtapparat. Der Historiker und Bestsellerautor Yuval Noah Harari beschreibt, dass die neuen Technologien zu einer Überwachungsdystopie führen könnten.
Der frühere US-Präsidentschaftskandidat Bernie Sanders positionierte sich im vergangenen US-Wahlkampf ebenfalls klar gegen Gesichtsüberwachung als „orwellsche Technlogie“, zuvor war es Microsoft-Präsident Brad Smith: „Die Welt steht an der Schwelle zu einer Technologie, die es einer Regierung ermöglicht, jedem jederzeit überallhin zu folgen“, so Smith.
Über die Clearview-App und ihre mögliche gesellschaftliche Folgen diskutieren wir im MIXED-Podcast Folge #187.
