Der Artikel kann nur mit aktiviertem JavaScript dargestellt werden. Bitte aktiviere JavaScript in deinem Browser und lade die Seite neu.
Microsoft experimentiert mit KI-generierter Malware. Was soll schon schiefgehen?
Mit Werbeeinnahmen bezahlen wir unsere Redakteur:innen. Mit einem MIXED-Abo kannst Du unsere Seite werbefrei lesen.
Im Feld der Computersicherheit entwickeln Expert:innen technologische Lösungen, die etwa Angriffe auf Computernetze automatisch erkennen. Während die Verteidiger ihre Technologien verbessern, suchen die Angreifer nach neuen Lücken und Methoden, in die Netze möglichst unbemerkt einzudringen. In diesem Schlagabtausch entwickeln sich ständig neue Abwehr- und Angriffsmethoden, die für industrielle oder auch geheimdienstliche Cyberattacken eingesetzt werden.
Längst sind solche Attacken auch zum Alltag in kritischen Infrastrukturen geworden: Atomanlagen, Nahrungsmittelketten, soziale Netzwerke oder Stromnetze sind Ziele im Cyberspace.
Microsoft experimentiert mit KI-generierter Malware
Forschende von Microsoft und der Universität BITS Pilani haben nun ein KI-System vorgestellt, das Malware generiert. Das System heißt „ADVERSARIALuscator“ – kurz für „Adversarial Deep Reinforcement Learning based obfuscator and Metamorphic Malware Swarm Generator“. Das KI-System paart ein Angriffserkennungssystem (IDS) mit Malware-Beispielen und nutzt einen KI-Agenten, der neue Malware-Varianten generiert, die das IDS überlisten können.
Der KI-Agent setzt dafür auf bestärkendes Lernen (Erklärung) und dient als Generator in dem von GAN-Systemen inspiriertem Aufbau. Das Angriffserkennungssystem ist der Diskriminator.
Der KI-Agent lernt die Malware-Beispiele so zu modifizieren, dass sie ihre Funktion weiter ausführen, jedoch vom Angriffserkennungssystem als harmlos eingestuft werden. Konkret lernt das KI-System, die Malware auf Opcode-Ebene zu verschleiern.
Mit Werbeeinnahmen bezahlen wir unsere Redakteur:innen. Mit einem MIXED-Abo kannst Du unsere Seite werbefrei lesen.
KI verschleiert Malware in 33 Prozent der Fälle erfolgreich
In Tests konnte ADVERSARIALuscator erfolgreich einen Teil der Malware verschleiern und die Wahrscheinlichkeit für Fehlklassifizierungen so stark erhöhen, dass selbst die besten IDS, die mit den ursprünglichen Malware-Varianten trainiert wurden, versagten. Insgesamt konnten mehr als 33 Prozent der generierten Malware-Varianten selbst das stärkste Angriffserkennungssystem umgehen und in das Zielsystem eindringen.
Das KI-System könne daher verwendet werden, um einen Angriff mit verschleierter Malware zu imitieren. Die gesammelten Daten könnten dann für die Verbesserung von Angriffserkennungssystemen verwendet werden, um diese auf einen tatsächlichen KI-basierten Malware-Angriff vorzubereiten, schreiben die Forscher:innen.
Jüngste Fortschritte beim gleichzeitigen Einsatz von mehreren KI-Agenten im bestärkenden Lernen („Multi-Agent Reinforcement Learning“) könnten allerdings noch leistungsfähigere Malware-KIs ermöglichen und sind daher das nächste Projekt des Teams von Microsoft und BITS Pilani.
Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.