Massenüberwachung durch KI-Technologie kann auch positive Seiten haben. Microsoft-Präsident Brad Smith wünscht sich daher Regularien “mit dem Skalpell statt dem Fleischermesser”.

Kabetec VR-Brille

Die Debatte um die Risiken Künstlicher Intelligenz spitzt sich im Themenfeld KI-Überwachung und hier speziell der Gesichtserkennung zu. Die mächtige Fähigkeit zur Mustererkennung macht KI zu einem potenziellen Werkzeug für die Massenüberwachung.

Menschen können ohne ihr Wissen oder ihre Zustimmung innerhalb von Sekunden erkannt werden. KI-gestützte Überwachungskameras sind von herkömmlichen Überwachungskameras nicht zu unterscheiden – und die Systeme werden immer effizienter und kleiner, so klein, dass sie sogar in eine Brille passen.

Natürlich erleichtert bessere Überwachungstechnologie die Verbrechensbekämpfung. Aber ist die Technologie erstmal flächendeckend ausgerollt und bei Behörden im Einsatz, ist ohne klare Regeln nicht abzusehen, für welche Zwecke sie noch eingesetzt werden könnte.

In China zum Beispiel werden mittels Gesichtserkennung Fußgänger identifiziert, die bei Rot über die Ampel gehen. Ihre Verkehrssünde wird anschließend öffentlich auf einem Monitor angeprangert und mit einem negativen Eintrag im Verhaltensregister bestraft.

Entsprechend kontrovers wird Gesichtserkennung in der Politik und der Industrie diskutiert. Googles Sundar Pichai bezeichnete Gesichtserkennung als “verachtenswert”. Sein Unternehmen soll ohne klare politische Leitlinien keine Gesichtserkennungstechnologie veröffentlichen.

Microsoft verkauft entsprechende Software und Systeme, handelt dabei aber laut eigenen Angaben entlang ethischer Leitsätze, die Missbrauch verhindern sollen. Amazon bietet eine besonders umstrittene Software für Gesichtserkennung an und verkauft sie an Behörden.

Unter anderem untersagt San Francisco Behörden bereits den Einsatz von Gesichtserkennungstechnologie. Die EU denkt gerade über ein temporäres Verbot nach.

Gesichtserkennung kann auch hilfreich sein

Microsoft-Präsident Brad Smith, der gleichzeitig Leiter der Rechtsabteilung ist, weist jetzt bei einer Veranstaltung in Brüssel (via Reuters) auf die möglichen positiven Seiten der Gesichtserkennung hin. NGOs beispielsweise könnten durch sie vermisste Kinder schneller finden.

“Ich würde sehr ungern Menschen davon abhalten, Technologie einzusetzen, die helfen kann, Familien wiederzuvereinen”, sagt Smith.

Laut Smith sei es wichtig, zuerst die Probleme der Technologie zu erkennen und anschließend Regeln aufzustellen, die Massenüberwachung verhindern könnten.

“Am Ende des Tages gibt es nur einen Weg, Technologie besser zu machen, und der ist, dass wir sie nutzen”, sagt Smith.

Ein Verbot solle nicht ausgesprochen werden, wenn es eine bessere Alternative gebe. Probleme der Technologie sollten “mit dem Skalpell statt dem Fleischermesser” angegangen werden.

Der in Brüssel ebenfalls anwesende Pichai unterstützt Smiths Punkt: Regularien müssten die Balance finden zwischen möglichem Schaden und gesellschaftlichem Wert. Dies gelte besonders für Szenarien mit hohem Risiko und Nutzen. Wichtig sei es, dass Regierungen ihre Regeln abstimmen und sich auf Kernwerte einigen.

KI-Überwachung ist mehr als Gesichtserkennung

Offenbar justierte Smith seinen Standpunkt in den vergangenen Monaten fein. Auf dem Web Sumit 2018 warnte er noch kompromisslos vor einem 1984-Szenario: Die Welt stehe an der Schwelle zu einer Technologie, die es einer Regierung ermögliche, jedem jederzeit überallhin zu folgen. Ohne Regulierungen befürchte er “tiefgreifende Auswirkungen auf bürgerliche Freiheiten, die die demokratische Gesellschaft stützen”.

Womöglich ist die Diskussion um Gesichtserkennung ohnehin fehlgeleitet: Die Überwachungsfähigkeiten Künstlicher Intelligenz gehen weit über das Gesichterlesen hinaus. Menschen könnten ebenso gut anhand anderer körperlicher Merkmale wie Bewegungsmustern identifiziert und dabei sogar durch Wände beobachtet werden.

Weiterlesen über KI-Überwachung:

steady2

MIXED.de XR-Podcast - jetzt reinhören

Aktuell: Unreal Engine 5 - ein neues Grafikzeitalter? | Alle Folgen



Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.