Auf der Chat-Plattform Telegram machen Deepfake-Bots die Runde, die automatisiert Nackt-Deepfakes erstellen. Nutzer müssen lediglich ein Foto hochladen. Mehr als 100.000 Fake-Bilder sollen auf der Plattform hergestellt und geteilt worden sein, das geht aus einer Untersuchung des auf Deepfake-Erkennung spezialisierten Unternehmens Sensity hervor.

Die Nutzung der Bot-Dienste sei gratis und produziere Nackt-Deepfakes mit Wassermarke und teilweiser Nacktheit, heißt es im Sensity-Bericht. Gegen eine Gebühr können Nutzer die restlichen Körperteile von der KI entblößen lassen. Für umgerechnet einen Euro erhalten Nutzer binnen einer Woche rund 100 Nackt-Deepfakes ohne Wassermarke.

Laut Sensity kommen die Nutzer zu circa 70 Prozent aus Russland und den umliegenden Ländern. Sie sollen vornehmlich Nackt-Deepfakes von Frauen erstellen, die sie aus ihrem sozialen Umfeld kennen. Die Originalbilder stammen von sozialen Netzwerken.

Einmal in Nackt-Deepfakes verwandelt, würden die KI-Bilder auf Telegram geteilt. Bis Juli 2020 identifizierte Sensity mehr als 100.000 Nackt-Deepfakes auf der Messaging-App. Darunter sollen auch Bilder von Minderjährigen sein.

Alte Schmuddel-KI

Die Software geht auf die KI-Auszieh-App DeepNude zurück. Die tauchte erstmals im Sommer 2019 auf und wurde wenige Tage nach Veröffentlichung wieder offline genommen. Als Grund gaben die Entwickler ein “zu hohes Risiko für Missbrauch” an.

Vor der Verbreitung des Programms schützte dieser Schritt nicht: Im Internet tauchten verschiedene Versionen des Quellcodes auf, die von Programmierern weiterentwickelt und auf diversen Kanälen verbreitet wurden. Die Telegram-Bots nutzen laut Sensity den gleichen Code.

Sex-Deepfakes dominieren

Fake-Nacktbilder gibt es zwar schon lange, durch Künstliche Intelligenz ist die Generierung solcher Inhalte aber so einfach wie nie geworden. Das zeigt sich an der DeepNude-App und jüngst den Telegram-Bots: Das Hochladen eines Bilds und ein paar Klicks in der Messaging-App reichen.

Für die Opfer uneinvernehmlicher Deepfake-Pornografie können die KI-generierten Nacktbilder schlimme Folgen haben: Betroffene Frauen können durch entsprechendes Bildmaterial erpresst oder öffentlich gedemütigt werden.

Einem früheren Sensity-Bericht zufolge stellen pornografische Deepfakes die häufigste Deepfake-Variante dar. Das Unternehmen identifizierte bis Juli 2020 knapp 50.000 verschiedene Sex-Deepfakes im Netz. Rund 1.000 neue Videos sollen pro Monat auf bekannten Pornoseiten hochgeladen werden, ohne dass diese dagegen vorgehen würden.

Quelle: The Verge

Weiterlesen über Deepfakes:

steady2

MIXED.de Podcast: VR, AR und KI - jede Woche neu

Jetzt reinhören: Alle Folgen


Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.