In den USA laufen die ersten Deepfake-Verbote schon an. Jetzt äußert sich auch die deutsche Bundesregierung zu einem möglichen Deepfake-Risiko.

Mit KI-Technologie angefertigten Videofälschungen, sogenannten Deepfakes, wird mitunter nachgesagt, dass sie ein gesellschaftliches Risiko darstellen könnten: Einerseits wird es einfacher, das Gesicht einer Person in einem Video gegen ein anderes Gesicht zu tauschen. Diese aufwendige Videomanipulation ist so nicht mehr das Spezialgebiet teurer Hollywood-Studios, sondern sie kann von jedermann mit Interesse für Technik bewerkstelligt werden.

Ein eindrucksvolles Beispiel für diese Hypothese zitiert den Star-Wars-Film “Rogue One”: Im Film erscheint eine junge Carrie Fisher als Prinzessin Leia. Für die Originalszene (oberes Bild) wurden optisch ähnliche Gesichtszüge einer Ersatzschauspielerin nachträglich gegen jene von Fisher getauscht. Ein aufwendiges Verfahren. Mit einer Deepfake-KI-App konnte ein Entwickler in kurzer Zeit ein qualitativ vergleichbares Ergebnis erzielen.

Ähnliche Beispiele gibt es zuhauf: Fake-Porträts von Berühmtheiten, die nie existierten, gefälschte Pornos, ein Bildbearbeitungswerkzeug, das mit wenigen Mausklicks Fotos komplett umgestalten kann oder eine Facebook-KI, die auf Fotos geschlossene Augen wieder öffnet. Der Spezialeffekteprofi Rob Bredow (ILM) geht davon aus, dass die Technologie sein Berufsbild grundlegend verändern wird.

Zweites Risikopotenzial: Deepfakes erschüttern Vertrauen in Medien

Die Bundesregierung verweist in einer aktuellen Stellungnahme, die der Süddeutschen Zeitung vorliegt, auf das zweite Risikopotenzial von Deepfakes: dass ihre Bedeutung überschätzt wird, aber der öffentliche Diskus einer möglichen Bedrohung durch Deepfakes dennoch zu einem medialen Vertrauensverlust in der Bevölkerung führt.

“Deep Fakes können das gesellschaftliche Vertrauen in die grundsätzliche Echtheit von Audio- und Videoaufnahmen und damit die Glaubwürdigkeit öffentlich verfügbarer Informationen schwächen”, heißt es in dem Schreiben der Bundesregierung, das auf Aussagen von Wissenschaftlern verweist, die “vor einer Überbewertung der Gefahren für demokratische Prozesse” durch Deepfakes warnen.

Deepfakes könnten dennoch “eine große Gefahr für Gesellschaft und Politik darstellen”, sofern sie genutzt würden, um “die öffentliche Meinung zu manipulieren”. Sie seien daher in Arbeitsgruppen im Auswärtigen Amt sowie dem Innen- und dem Justizministerium ein Thema. Die Bundesregierung bietet seit Mitte November auch eine Infoseite zu Deepfakes an.

Einen Schritt weiter in der gesetzlichen Entscheidungsfindung ist der US-Bundesstaat Kalifornien: Dort sind politisch motivierte Deepfakes 60 Tage vor einer Wahl strafbar, wenn sie nicht als solche gekennzeichnet sind.

Titelbild: Bundesregierung (Screenshot aus Video)

Weiterlesen über Deepfakes:

steady2

Der MIXED.de XR-Podcast #177

Jetzt reinhören: Facebook OS, Quest-Handtracking und VR-Kino | Alle Folgen



Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.