Das Unternehmen hinter der beliebten Smartphone-App und Kurzvideoplattform Tiktok soll an einer Deepfake-Funktion arbeiten. Bewahrheiten sich die Gerüchte, würden automatisierte Deepfakes zum ersten Mal den Mainstream erreichen.

Das unveröffentlichte Feature soll “Face Swap” (Deutsch: Gesichtertausch) heißen und wurde sowohl im Code der Tiktok-App als auch in dessen chinesischer Version Douyin entdeckt.

Über den Fund berichtet Techcrunch mit Verweis auf die App-Marktforscher von Watchful.ai, die auf den Code aufmerksam wurden und Screenshots und Videos der Funktion anfertigten, nachdem sie das Feature aktivieren konnten.

Für den KI-Gesichtertausch lassen Nutzer zunächst ihr Gesicht von der Tiktok-App scannen. Dieser Schritt dient auch der Identitätsüberprüfung: Hiermit soll sichergestellt werden, dass man Deepfakes lediglich von sich selbst erstellt. Fotos oder Videos können nicht hochgeladen werden.

Während des Scans wird man zum Blinzeln, Nicken, Öffnen und Schließen des Mundes aufgefordert. Das dabei aufgezeichnete Material dient dem KI-Training.

Danach kann man aus einer Reihe vorbereiteter Videos wählen und Gesichter der Personen im Video durch das eigene ersetzen. Eigene Videos können nicht als Ausgangsmaterial benutzt werden. Die Deepfakes wirken laut Techcrunch “sehr überzeugend“.

Der Porno-Fälscher-Algorithmus Deepfakes wird auf Donald Trump angesetzt. Original und Fälschung sind kaum mehr zu unterscheiden.

Deepfakes gerieten bislang vor allem wegen des potenziellen politischen Missbrauchs in die Schlagzeilen. BILD: Derpfakes

Tiktok kennzeichnet die Deepfakes

Das fertige Deepfake-Video kann heruntergeladen und mit anderen Nutzern geteilt werden. Es enthält eine Wassermarke, die das Material als Deepfake kennzeichnet. In China stehen unmarkierte Deepfake-Videos unter Strafe, in Teilen der USA ebenfalls. Der Grund: Sie könnten für politische Zwecke oder Rachepornos missbraucht werden.

Watchful.ai stieß außerdem auf aktualisierte Nutzungsbedingungen für die Deepfake-Funktion. Darin müssen Nutzer zustimmen, dass ihre Gesichtsinformationen für Deepfakes benutzt werden. Bytedance, das chinesische Unternehmen hinter Tiktok, versichert, dass die Gesichtsdaten nur für Identifikationszwecke und die Deepfake-Funktion eingesetzt und nicht gespeichert werden.

Deepfake-App Zao lässt Nutzer in bekannten Serien und Filmen mitspielen

Mit der chinesischen Deepfake-App Zao ersetzt man bekannte Schauspieler in Filmen. BILD: Allan Xia via Twitter

Bytedance dementiert

In den Nutzungsbedingungen steht ferner, dass nur volljährige Personen die Funktion nutzen dürfen. Tiktok selbst dementierte auf Anfrage von Techcrunch, dass eine entsprechende Funktion geplant ist.

Im September 2019 ging in China die Deepfake-App Zao viral, die es Nutzern ermöglichte, ihr Gesicht in bekannte Szenen aus Filmen und Serien einzufügen. Sollte Bytedance die Deepfake-Funktion veröffentlichen, würden automatisierte KI-Fakes zum ersten Mal eine Vielzahl Menschen im Westen erreichen.

Tiktok verzeichnet drei Jahre nach Erscheinen mehr als 500 Millionen monatlich aktive Nutzer und gehört auch im Westen zu den meist heruntergeladenen Smartphone-Apps.

Titelbild und Quelle: Techcrunch

Weiterlesen über Deepfakes:

steady2

MIXED.de XR-Podcast - jetzt reinhören

Aktuell: Radioaktive Daten und VR Auferstehung | Alle Folgen



Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.