Mit Künstlicher Intelligenz und maschinellen Lernverfahren haben Hacker mächtige Werkzeuge für neue Cyber-Attacken an der Hand. Eine Expertenuntersuchung beschreibt mögliche Hacks und Ansätze, um diese Risiken einzuschränken.

Kabetec VR-Brille

In dem Bericht The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation beschreiben 26 Experten aus 14 Institutionen und Organisationen auf rund 100 Seiten neue Cyber-Risiken durch Künstliche Intelligenz. Die Autoren arbeiten unter anderem für die Oxford und Cambridge Universität oder für die Non-Profit-KI-Organisation OpenAI. Das Papier basiert auf einem zweitägigen Workshop, der im Februar 2017 an der Oxford Universität stattfand.

Die Autoren beschreiben Szenarien, in denen sich Hacker das Automatisierungspotenzial und die fortschrittliche Sensorik von KI-Systemen zunutze machen. In einem Szenario attackiert ein gehackter und mit Sprengstoff ausgerüsteter Reinigungsroboter ein Ministerium. Er bewegt sich unerkannt unter anderen Reinigungsrobotern fort. Mittels Gesichtserkennung identifiziert er die Finanzministerin und sprengt sich in ihrer Nähe in die Luft.

Künstliche Intelligenz beauftragt menschliche Arbeiter

In einem zweiten Szenario beauftragt eine Künstliche Intelligenz einen freien Grafiker, eine stark personalisierte Werbeanzeige zu erstellen, die anhand von Online-Daten exakt auf einen spezifischen Nutzer zugeschnitten ist. Der Nutzer sieht diese Werbeanzeige bei Facebook und öffnet die mit ihr verbundene Broschüre, die Schadsoftware enthält. Die zieht sich Nutzerdaten und Zugänge vom PC, die dann auf einem Hacker-Marktplatz verkauft werden.

“Wir erwarten neue Arten von Cyber-Attacken, die menschliches Verhalten, Stimmungen und Überzeugungen analysieren und auszunutzen”, schreiben die Autoren. Dies sei besonders in autoritären Staaten ein Risiko, könne aber – im Kontext von Fake-Medien, wie sie mit Deepfakes erstellt werden – auch in Demokratien eine konstruktive öffentliche Debatte verhindern.

Programmierer sollen Verantwortung übernehmen

Die Autoren sprechen eini…

MIXED.de XR-Podcast - jetzt reinhören

Aktuell: Unreal Engine 5 - ein neues Grafikzeitalter? | Alle Folgen



Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.