Deepfakes: Kalifornien verbietet KI-Fake-Videos im Wahlkampf

7.10.2019 Tomislav Bezmalinovic

Der US-Bundesstaat Kalifornien erlässt zwei Gesetze, die den Missbrauch von Deepfakes unter Strafe stellen. Eines davon richtet sich explizit gegen politische KI-Fake-Videos.

Mit Deepfakes kann man mit vergleichsweise wenig Aufwand Gesichter in Videos tauschen oder eine Person etwas Beliebiges sagen lassen. Dann tritt zum Beispiel Bruce Lee statt Keanu Reeves in Matrix auf und Donald Trump wird zu einem schmierigen Geldwäscher.

Doch Deepfakes dienen nicht nur der Unterhaltung. Sie können ebenso für Rachepornos und politische Zwecke missbraucht werden. So befürchten manche US-Politiker im Vorfeld der US-Präsidentschaftswahlen 2020 eine regelrechte Deepfake-Schwemme.

Gegen Rachepornos und Deepfake-Propaganda

Als präventive Maßnahme unterzeichnete Kaliforniens Gouverneur Gavin Newsom vergangene Woche die Gesetze AB602 und AB730. AB602 richtet sich gegen Urheber pornografischer Deepfakes, die ohne die Zustimmung der darin vorkommenden Personen erstellt und verbreitet werden. Der US-Bundesstaat Virginia erließ im Sommer ein ähnliches Gesetz gegen Deepfake-Rachepornos.

Das zweite Gesetz, AB730, richtet sich gegen den politischen Missbrauch der KI-Technologie. Es verbietet die Verbreitung irreführenden Video- und Audiomaterials, das mit dem Zweck erstellt wurde, den Ruf eines Kandidaten zu schädigen oder Wähler zu täuschen. Die Deepfakes sind nur im Zeitrahmen von 60 Tagen vor der Wahl strafbar und wenn sie nicht als solche gekennzeichnet sind.

In den Gesetzen ist statt von Deepfakes ganz allgemein von „irreführendem oder digital erstellten Video- und Audiomaterial“ die Rede, um auch andere Formen digitaler Medienmanipulation zu erfassen, wie zum Beispiel das im Frühjahr in Umlauf gebrachte Fake-Video von Nancy Pelosi, das die Sprecherin des US-Repräsentantenhauses in scheinbar betrunkenem Zustand zeigt – in Wirklichkeit war nur die Wiedergabegeschwindigkeit leicht reduziert.

Bürgerrechtler kritisieren neue Deepfake-Regelung

Der Urheber der Gesetze ist der kalifornische Demokrat und Deepfake-Warner Marc Berman. „Kalifornien muss angesichts der Tatenlosigkeit der Regierung handeln und seine 20 Millionen Wähler schützen“, sagt Berman.

„Wähler haben das Recht, zu wissen, wenn Video-, Audio- oder Bildmaterial manipuliert wurde und nicht der Wirklichkeit entspricht. Das macht Deepfake-Technologie zu einem mächtigen und gefährlichen neuen Werkzeug in den Händen jener, die mit Falschinformationen Wähler hinters Licht führen wollen.“

Die amerikanische Bürgerrechtsorganisation ACLU kritisiert das Gesetz und rief Kaliforniens Gouverneur in einem offenen Brief vergeblich auf, das Gesetz nicht zu unterzeichnen. „Trotz der guten Absichten: Dieses Gesetz löst das Problem politischer Fake-Videos nicht. Es wird nur noch mehr Verwirrung, böse Rechtsstreitigkeiten und Unterdrückung freier Meinungsäußerung bringen.“

Titelbild: Derpfakes (Screenshot bei Youtube), Quelle: San Francisco Chronicle

Weiterlesen über Deepfakes:

• Geschichte der Deepfakes: So rasant geht es mit KI-Fakes voran
• Kampf gegen KI-Fakes: Facebook ruft Anti-Deepfake-Wettbewerb ins Leben
• Deepfake-App Zao lässt Nutzer in bekannten Serien und Filmen mitspielen

Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.