Facebook geht gegen ein umfangreiches Fake-Netzwerk vor. Erstmals sind Fake-Profile mit KI-generierte Fotos darunter.

Seit 2018 löscht Facebook Nutzerprofile, Seiten und Gruppen im sozialen Netzwerk und bei Instagram, die unter dem Verdacht stehen, fremdgesteuert Einfluss auf politische Meinung oder Wahlen nehmen zu wollen.

Am Freitag veröffentlichte Facebook ein Update mit zwei neuen Löschaktionen. Die erste ist heutzutage fast schon unspektakulär: Knapp 40 Profile, 340 Seiten und 13 Gruppen einer Propagandaaktion aus Georgien wurden gelöscht.

Die zweite Löschaktion ist es, die aufmerksam macht: 610 Profile, knapp 90 Seiten, 156 Gruppen und 72 Instagram-Profile löschte Facebook – darunter einige mit KI-generierten Profilfotos.

"Fake Face Swarm" - so nannten die Aufklärer die Rechercher rund um die Deepfake-Porträts. Bild: Graphika

“Fake Face Swarm” – so nannten die Aufklärer ihre Recherche rund um die Deepfake-Porträts. Bild: Graphika

“Mary Keen” und “Jacobs Guillermo”: Authentische Gesichter aus der Deepfake-Maschine

Das Netzwerk aus Fake-Profilen fokussierte sich primär auf die Verbreitung von Inhalten der in den USA sitzenden Mediengesellschaft “The Beauty of Life” (The BL). Die Accounts verbreiteten Nachrichten, Memes und andere Inhalte von “The BL” und “The Epoch Times”. Die Inhalte seien teilweise auch in Chinesisch, Spanisch und Vietnamesisch veröffentlicht worden.

Der Einsatz von Fake-Profilen zur Verbreitung von Inhalten, die die öffentliche Meinung beeinflussen, verstößt gegen Facebooks Nutzungsbedingungen. Dass Facebook diese Verstöße besonders intensiv beobachtet und schnell löscht, steht in Zusammenhang mit dem Cambridge-Analytica-Skandal.

Hinter dem Netzwerk stünden Personen aus den USA und Vietnam, die für “The Epoch Times” arbeiten, schreibt Facebook. Das habe eine Untersuchung gezeigt – trotz der Versuche Beteiligter, ihre Identitäten zu verschleiern.

Profilbilder von "Mary Keen" und "Jacobs Guillermo". Beide waren Admins von gesperrten Gruppen. Beide Fotos sind KI-generiert. Bild: Graphika.

Deepfake-Profilbilder von “Mary Keen” und “Jacobs Guillermo”. Beide waren Admins von gesperrten Gruppen. Beide Profilfotos sind KI-generiert. Bild: Graphika.

Die Hintermänner nutzten eine Mischung aus authentischen Profilen und Fake-Profilen, um Gruppen und Seiten zu managen, schreibt Facebook.

Das Netzwerk erreichte zum Zeitpunkt der Löschaktion sehr viele Menschen: Etwa 55 Millionen Accounts seien den Seiten gefolgt, ein Großteil davon außerhalb der USA, heißt es in Facebooks Blog-Beitrag.

Eine Gruppe hatte mehr als 380.000 Mitglieder und rund 90.000 Menschen folgten einem der Instagram-Accounts. Insgesamt seien mehr als neun Millionen US-Dollar in Facebook-Marketing investiert worden.

Erster großflächiger Einsatz von Deepfake-Porträts

Die Fake-Profile seien in großen Massen in kurzer Zeit generiert worden, heißt es in einer Analyse von Experten.

Sie untersuchten die Profilfotos und stellten fest: Dutzende wurden per KI generiert. Das von Facebook aufgedeckte Netzwerk ist damit der erste bekannte großflächige Einsatz von KI-generierten Fake-Personen. Ein Phänomen, das erstmals der Chiphersteller Nvidia im Oktober 2017 in die öffentliche Aufmerksamkeit brachte und das sich seitdem schnell entwickelte.

Noch lassen sich Deepfake-Porträts recht einfach an offensichtlichen Bildfehlern entlarven. Allerdings wird die Technik rasant besser. Bild: Graphika

Noch lassen sich Deepfake-Porträts recht einfach an offensichtlichen Bildfehlern entlarven. Allerdings wird die Technik rasant besser. Bild: Graphika

Einzelfälle, in denen mit Deepfake-Porträts bewusst getäuscht wurde, gab es zuvor schon: Auf LinkedIn flogen im Juni Spione auf, die KI-generierte Gesichter nutzten und im Oktober geriet eine Bekannte des britischen Premierministers Boris Johnson in Verdacht, eine unechte Mitarbeiterin zu beschäftigen. Mittlerweile werden Deepfake-Porträts bei Fotobörsen im Internet verkauft, beispielsweise für Werbekampagnen.

Quelle: Facebook

Weiterlesen über Deepfakes:

steady2

MIXED.de XR-Podcast - jetzt reinhören

Aktuell: Radioaktive Daten und VR Auferstehung | Alle Folgen



Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.