Facebook hat laut eigenen Angaben Fake-Profile bei Facebook und Instagram gelöscht, die chinesische Propaganda verbreiteten. Die Profile verwendeten zum Teil Deepfake-Porträts.
Gemeinsam mit der auf die Entlarvung von Social-Media-Propaganda spezialisierten Analysefirma Graphika hat Facebook laut eigenen Angaben zwei Netzwerke mit Fake-Accounts bei Facebook und Instagram entfernt. Eines hatte den Ursprung in China, das andere in den Philippinen.
Insgesamt entfernte Facebook 212 Fake-Accounts, die "koordiniertes, nicht authentisches Verhalten im Namen einer ausländischen oder staatlichen Stelle" gezeigt haben sollen.
Die beiden Operationen sollen sich auf geografische und geopolitische Themen konzentriert haben, von Taiwan und Hongkong bis zu den Beziehungen Chinas zu den USA, mit einem Schwerpunkt auf maritime Sicherheit im Südchinesischen Meer. Ein geringer Teil der Inhalte hatte mit den anstehenden US-Wahlen zu tun.
Propaganda mit Deepfake-Unterstützung
Das chinesische Fake-Netzwerk nutzte laut des Berichts Deepfake-Profilfotos, also Social-Media-Porträtbilder, die von Grund auf KI-generiert sind. Sie haben den Vorteil, dass es sich um Originalbilder handelt. Anders als gestohlene Fotos können sie nicht über das Internet rückverfolgt oder anderweitig wiedererkannt werden.
Der Einsatz von KI-generierten Fake-Porträts ist laut Graphika im Laufe des letzten Jahres "explodiert", da die Technologie online einfach verfügbar sei. Auf Webseiten wie "thispersondoesnotexist" kann man Fake-Porträts kostenlos per Knopfdruck generieren.
Die Fake-Bilder seien ein Paradoxon: "Sie verschleiern eine Reihe von möglichen
Ermittlungen, aber sie liefern einen anderen Hinweis darauf, dass das fragliche Konto gefälscht ist." Es bleibe abzuwarten, wie sich die weitere Nutzung der Technologie entwickelt, heißt es im Bericht.
Graphika-Chefanalyst Ben Nimmo äußert sich bei Twitter: KI-generierte Porträts seien vor einem Jahr noch die Ausnahme gewesen. Jetzt fühle es sich an, als würde jede analysierte Operation KI-Fakes wenigstens einmal testen.
Quelle: Graphika
