Bericht: Tiktok-Entwickler Bytedance arbeitet an Deepfake-Feature
Das Unternehmen hinter der beliebten Smartphone-App und Kurzvideoplattform Tiktok soll an einer Deepfake-Funktion arbeiten. Bewahrheiten sich die Gerüchte, würden automatisierte Deepfakes zum ersten Mal den Mainstream erreichen.
Das unveröffentlichte Feature soll „Face Swap“ (Deutsch: Gesichtertausch) heißen und wurde sowohl im Code der Tiktok-App als auch in dessen chinesischer Version Douyin entdeckt.
Über den Fund berichtet Techcrunch mit Verweis auf die App-Marktforscher von Watchful.ai, die auf den Code aufmerksam wurden und Screenshots und Videos der Funktion anfertigten, nachdem sie das Feature aktivieren konnten.
___STEADY_PAYWALL___Für den KI-Gesichtertausch lassen Nutzer zunächst ihr Gesicht von der Tiktok-App scannen. Dieser Schritt dient auch der Identitätsüberprüfung: Hiermit soll sichergestellt werden, dass man Deepfakes lediglich von sich selbst erstellt. Fotos oder Videos können nicht hochgeladen werden.
Während des Scans wird man zum Blinzeln, Nicken, Öffnen und Schließen des Mundes aufgefordert. Das dabei aufgezeichnete Material dient dem KI-Training.
Danach kann man aus einer Reihe vorbereiteter Videos wählen und Gesichter der Personen im Video durch das eigene ersetzen. Eigene Videos können nicht als Ausgangsmaterial benutzt werden. Die Deepfakes wirken laut Techcrunch „sehr überzeugend„.
Empfohlener Beitrag
Deepfakes gerieten bislang vor allem wegen des potenziellen politischen Missbrauchs in die Schlagzeilen. BILD: Derpfakes
Tiktok kennzeichnet die Deepfakes
Das fertige Deepfake-Video kann heruntergeladen und mit anderen Nutzern geteilt werden. Es enthält eine Wassermarke, die das Material als Deepfake kennzeichnet. In China stehen unmarkierte Deepfake-Videos unter Strafe, in Teilen der USA ebenfalls. Der Grund: Sie könnten für politische Zwecke oder Rachepornos missbraucht werden.
Watchful.ai stieß außerdem auf aktualisierte Nutzungsbedingungen für die Deepfake-Funktion. Darin müssen Nutzer zustimmen, dass ihre Gesichtsinformationen für Deepfakes benutzt werden. Bytedance, das chinesische Unternehmen hinter Tiktok, versichert, dass die Gesichtsdaten nur für Identifikationszwecke und die Deepfake-Funktion eingesetzt und nicht gespeichert werden.
MIXED.de ohne Werbebanner- Zugriff auf mehr als 9.000 Artikel
MIXED.de ohne Werbebanner- Kündigung jederzeit online möglich
Mit der chinesischen Deepfake-App Zao ersetzt man bekannte Schauspieler in Filmen. BILD: Allan Xia via Twitter
Bytedance dementiert
In den Nutzungsbedingungen steht ferner, dass nur volljährige Personen die Funktion nutzen dürfen. Tiktok selbst dementierte auf Anfrage von Techcrunch, dass eine entsprechende Funktion geplant ist.
Im September 2019 ging in China die Deepfake-App Zao viral, die es Nutzern ermöglichte, ihr Gesicht in bekannte Szenen aus Filmen und Serien einzufügen. Sollte Bytedance die Deepfake-Funktion veröffentlichen, würden automatisierte KI-Fakes zum ersten Mal eine Vielzahl Menschen im Westen erreichen.
Tiktok verzeichnet drei Jahre nach Erscheinen mehr als 500 Millionen monatlich aktive Nutzer und gehört auch im Westen zu den meist heruntergeladenen Smartphone-Apps.
Titelbild und Quelle: Techcrunch
Weiterlesen über Deepfakes:
- Geschichte der Deepfakes: So rasant geht es mit KI-Fakes voran
- Studie: Anzahl Deepfakes verdoppelt sich in neun Monaten
- Deepfake-Experte: “Deepfakes werden in zwei bis drei Jahren perfekt sein”
Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.
