Facebook bringt eine Anti-Deepfake-Initiative auf den Weg. Das Ziel: Die KI-Gemeinschaft soll bessere Werkzeuge gegen Deepfakes entwickeln.

Mit Künstlicher Intelligenz kann man täuschend echt Gesichter in Videos austauschen und jeden alles sagen lassen. Diese sogenannten Deepfakes werden noch dazu immer überzeugender und leichter herzustellen.

Im Vorfeld der US-Präsidentschaftswahlen 2020 befürchten deshalb viele, dass Deepfakes für politische Zwecke missbraucht werden könnten. Im Juni beriet der US-Kongress, wie man gegen die Bedrohung vorgehen könnte. KI-Forscher eines Expertengremiums schlugen vor, bessere und frei zugängliche Werkzeuge zu schaffen, mit denen man Deepfakes leichter identifizieren kann.

Genau das haben sich nun Facebook, Microsoft, das Techkonsortium Partnership on AI und diverse US-Akademiker vorgenommen und die Deepfake Detection Challenge (DFDC) ins Leben gerufen. Die umfasst eine Deepfake-Datenbank, eine Bestenliste sowie Fördergelder und Preise, die die KI-Gemeinschaft motivieren soll, neue und bessere Methoden gegen Deepfakes zu entwickeln.

Ein industrieweiter Benchmark für Anti-Deepfake-Software

Die Datenbank soll aus einer Vielzahl KI-Fakes bestehen und als objektive Messlatte für Deepfake-Erkennungssoftware dienen. Facebook will diese Datenbank aufbauen und dafür mit Hilfe bezahlter Schauspieler selbst beispielhafte Deepfakes erstellen.

Daten von Facebook-Nutzern sollen dabei nicht verwendet werden, schreibt Facebook-Technikchef Mike Schroepfer in der Ankündigung des Projekts im firmeneigenen KI-Blog. Es sei wichtig, dass die KI-Gemeinschaft Zugriff auf eine freie verfügbare Deepfake-Datenbank hat, mit Beteiligten, die eingewilligt haben, für Deepfakes herzuhalten.

Facebook finanziert zudem Forschungszusammenarbeit und Preise für die DFDC im Umfang von zehn Millionen US-Dollar. Beaufsichtigt wird die Anti-Deepfake-Initiative von einem Komitee der Partnership on AI, in dem auch Facebook und Microsoft vertreten sind.

Um die Qualität des Datensatzes und der Wettbewerbskriterien zu gewährleisten, wird die DFDC im Oktober einen Test durchlaufen. Die vollständige Datenbank wird im Dezember mit dem offiziellen Start des Wettbewerbs veröffentlicht. Facebook wird ebenfalls an der DFDC teilnehmen, jedoch keine Preisgelder für sich beanspruchen.

Titelbild: Facebook, Quelle: Facebook AI Blog

Weiterlesen zum Thema:


MIXEDCAST #169: Deepfake-Hollywood und VR-Hoffnung Oberhausen | Alle Folgen


Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.