Googles Deepfake-Datenbank soll im Kampf gegen eben jene helfen. Sie bietet Trainingsmaterial für Erkennungsalgorithmen.

Seit Deepfakes Ende 2017 erstmals im Internet auftauchten, haben sie sich rasant entwickelt: Täglich tauchen neue Videos auf, in denen zum Beispiel Schauspieler Gesichter tauschen oder US-Präsident Trump Geldwäsche-Tipps gibt. Politiker, Forscher und Technologiekonzerne warnen vor dem Missbrauchspotenzial etwa in der US-Präsidentschaftswahl 2020.

Um diesem möglichen Missbrauch entgegenzuwirken, wird an KI-Werkzeugen gearbeitet, die Deepfakes automatisiert erkennen und so entschärfen sollen. Anfang des Monats starteten Facebook, Microsoft und das Techkonsortium “Partnership on AI” etwa die Deepfake Detection Challenge. Durch den Wettbewerb sollen neue und bessere Erkennungsmethoden für Deepfakes entstehen.

Mit Deepfakes gegen Deepfakes

Teil des Wettbewerbs soll auch eine umfassende Deepfake-Datenbank sein. Mit der sollen die Teilnehmer ihre Erkennungsalgorithmen trainieren und testen können. Die Datenbank ist für Ende des Jahres angekündigt.

Noch vor Facebook veröffentlicht nun Google eine Sammlung mit 3.000 manipulierten Deepfake-Videos. Für die hat Google eigens insgesamt 28 Schauspieler angeheuert und ihre Gesichter mit verbreiteten Deepfake-Algorithmen verändert.

Google kooperiert mit der TU München und der Universität Neapel Federico II. Die beiden Universitäten veröffentlichten bereits im Januar einen Deepfake-Datensatz. Dieser wurde nun mit Googles Daten erweitert und läuft unter dem Namen “FaceForensics++”.

Katz-und-Maus-Spiel zwischen Deepfakes und Erkennungsalgorithmen

Auch diese Datenbank soll dem Training von Erkennungsalgorithmen dienen. Sie kann kann kostenlos auf GitHub heruntergeladen werden. Google will FaceForensics++ ständig erweitern und so der Weiterentwicklung der Deepfake-Technologie Rechnung tragen.

Ob Google das Katz-und-Maus-Spiel zwischen Deepfake- und Erkennungs-KIs gewinnen kann, bleibt abzuwarten. Im Bereich der Fake-News-KIs funktioniert dieser Ansatz noch: Zum Beispiel erkennt der Fake-News-Detektor Grover KI-generierte Texte mit hoher Genauigkeit.

Doch KI-Forscher wie der Bildbearbeitungsprofi Hao Li sind skeptisch. Laut Li wird es in zwei bis drei Jahren unmöglich sein, Deepfakes zu identifizieren, da Videos letztlich nur bunte Pixel seien und somit perfekt gefälscht werden könnten. Dann bliebe nur, sich mit der neuen Wirklichkeit abzufinden: dass man Videos im Internet kaum noch vertrauen kann.

Quelle: Google

Weiterlesen über Deepfakes:

steady2

MIXEDCAST #171: Das Carmack-Drama, Stormland und Magic Leak | Alle Folgen


Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.