Der Artikel kann nur mit aktiviertem JavaScript dargestellt werden. Bitte aktiviere JavaScript in deinem Browser und lade die Seite neu.
Das Unternehmen hinter der beliebten Smartphone-App und Kurzvideoplattform Tiktok soll an einer Deepfake-Funktion arbeiten. Bewahrheiten sich die Gerüchte, würden automatisierte Deepfakes zum ersten Mal den Mainstream erreichen.
Mit Werbeeinnahmen bezahlen wir unsere Redakteur:innen. Mit einem MIXED-Abo kannst Du unsere Seite werbefrei lesen.
Das unveröffentlichte Feature soll „Face Swap“ (Deutsch: Gesichtertausch) heißen und wurde sowohl im Code der Tiktok-App als auch in dessen chinesischer Version Douyin entdeckt.
Über den Fund berichtet Techcrunch mit Verweis auf die App-Marktforscher von Watchful.ai, die auf den Code aufmerksam wurden und Screenshots und Videos der Funktion anfertigten, nachdem sie das Feature aktivieren konnten.
___STEADY_PAYWALL___
Für den KI-Gesichtertausch lassen Nutzer zunächst ihr Gesicht von der Tiktok-App scannen. Dieser Schritt dient auch der Identitätsüberprüfung: Hiermit soll sichergestellt werden, dass man Deepfakes lediglich von sich selbst erstellt. Fotos oder Videos können nicht hochgeladen werden.
Während des Scans wird man zum Blinzeln, Nicken, Öffnen und Schließen des Mundes aufgefordert. Das dabei aufgezeichnete Material dient dem KI-Training.
Danach kann man aus einer Reihe vorbereiteter Videos wählen und Gesichter der Personen im Video durch das eigene ersetzen. Eigene Videos können nicht als Ausgangsmaterial benutzt werden. Die Deepfakes wirken laut Techcrunch „sehr überzeugend„.
Deepfakes gerieten bislang vor allem wegen des potenziellen politischen Missbrauchs in die Schlagzeilen. BILD: Derpfakes
Tiktok kennzeichnet die Deepfakes
Das fertige Deepfake-Video kann heruntergeladen und mit anderen Nutzern geteilt werden. Es enthält eine Wassermarke, die das Material als Deepfake kennzeichnet. In China stehen unmarkierte Deepfake-Videos unter Strafe, in Teilen der USA ebenfalls. Der Grund: Sie könnten für politische Zwecke oder Rachepornos missbraucht werden.
Watchful.ai stieß außerdem auf aktualisierte Nutzungsbedingungen für die Deepfake-Funktion. Darin müssen Nutzer zustimmen, dass ihre Gesichtsinformationen für Deepfakes benutzt werden. Bytedance, das chinesische Unternehmen hinter Tiktok, versichert, dass die Gesichtsdaten nur für Identifikationszwecke und die Deepfake-Funktion eingesetzt und nicht gespeichert werden.
Mit der chinesischen Deepfake-App Zao ersetzt man bekannte Schauspieler in Filmen. BILD: Allan Xia via Twitter
Bytedance dementiert
In den Nutzungsbedingungen steht ferner, dass nur volljährige Personen die Funktion nutzen dürfen. Tiktok selbst dementierte auf Anfrage von Techcrunch, dass eine entsprechende Funktion geplant ist.
Im September 2019 ging in China die Deepfake-App Zao viral, die es Nutzern ermöglichte, ihr Gesicht in bekannte Szenen aus Filmen und Serien einzufügen. Sollte Bytedance die Deepfake-Funktion veröffentlichen, würden automatisierte KI-Fakes zum ersten Mal eine Vielzahl Menschen im Westen erreichen.
Tiktok verzeichnet drei Jahre nach Erscheinen mehr als 500 Millionen monatlich aktive Nutzer und gehört auch im Westen zu den meist heruntergeladenen Smartphone-Apps.
Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.