Facebook hat laut eigenen Angaben Fake-Profile bei Facebook und Instagram gelöscht, die chinesische Propaganda verbreiteten. Die Profile verwendeten zum Teil Deepfake-Porträts.

Gemeinsam mit der auf die Entlarvung von Social-Media-Propaganda spezialisierten Analysefirma Graphika hat Facebook laut eigenen Angaben zwei Netzwerke mit Fake-Accounts bei Facebook und Instagram entfernt. Eines hatte den Ursprung in China, das andere in den Philippinen.

Insgesamt entfernte Facebook 212 Fake-Accounts, die “koordiniertes, nicht authentisches Verhalten im Namen einer ausländischen oder staatlichen Stelle” gezeigt haben sollen.

Die beiden Operationen sollen sich auf geografische und geopolitische Themen konzentriert haben, von Taiwan und Hongkong bis zu den Beziehungen Chinas zu den USA, mit einem Schwerpunkt auf maritime Sicherheit im Südchinesischen Meer. Ein geringer Teil der Inhalte hatte mit den anstehenden US-Wahlen zu tun.

Propaganda mit Deepfake-Unterstützung

Das chinesische Fake-Netzwerk nutzte laut des Berichts Deepfake-Profilfotos, also Social-Media-Porträtbilder, die von Grund auf KI-generiert sind. Sie haben den Vorteil, dass es sich um Originalbilder handelt. Anders als gestohlene Fotos können sie nicht über das Internet rückverfolgt oder anderweitig wiedererkannt werden.

Auf den ersten Blick sehen KI-generierte Porträts überzeugend echt aus. Schaut man genauer hin, entdeckt man Auffälligkeiten wie eine zu akkurate Ausrichtung der Augen (rechtes Bild). | Bild: Graphika / Facebook

Auf den ersten Blick sehen KI-generierte Porträts überzeugend echt aus. Schaut man genauer hin, entdeckt man Auffälligkeiten wie eine zu akkurate Ausrichtung der Augen (rechtes Bild, hier wurden alle Augenpaare von der linken Seite übereinandergelegt). | Bild: Graphika / Facebook

Der Einsatz von KI-generierten Fake-Porträts ist laut Graphika im Laufe des letzten Jahres “explodiert”, da die Technologie online einfach verfügbar sei. Auf Webseiten wie “thispersondoesnotexist” kann man Fake-Porträts kostenlos per Knopfdruck generieren.

Die Fake-Bilder seien ein Paradoxon: “Sie verschleiern eine Reihe von möglichen
Ermittlungen, aber sie liefern einen anderen Hinweis darauf, dass das fragliche Konto gefälscht ist.” Es bleibe abzuwarten, wie sich die weitere Nutzung der Technologie entwickelt, heißt es im Bericht.

Graphika-Chefanalyst Ben Nimmo äußert sich bei Twitter: KI-generierte Porträts seien vor einem Jahr noch die Ausnahme gewesen. Jetzt fühle es sich an, als würde jede analysierte Operation KI-Fakes wenigstens einmal testen.

Quelle: Graphika

Weiterlesen über Täuschungsversuche mit Deepfakes:

steady2

MIXED.de XR-Podcast - jetzt reinhören

Aktuell: Alles über Oculus Quest 2 | Alle Folgen



Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.