Google verbietet Deepfake-Training in Colab

Google verbietet Deepfake-Training in Colab

Google verbietet das Training von Deepfakes im Cloud-Service Colab. Was steckt dahinter?

Mit Werbeeinnahmen bezahlen wir unsere Redakteur:innen.
Mit einem MIXED-Abo kannst Du unsere Seite werbefrei lesen.

Dank kostenloser Deepfake-Tools wie DeepFaceLab, DeepFaceLive und FaceSwap kann heute jede Person mit etwas technischem Know-how und leistungsstarker Hardware eigene Deepfakes erstellen. Die Werkzeuge und Algorithmen werden stetig besser und das von der Community gesammelte Wissen hilft Anfänger:innen, bessere Ergebnisse zu erzielen.

Eine größere Hürde gibt es jedoch: Für überzeugende Deepfakes benötigt es ein ausreichend trainiertes Modell.

Je mehr Trainingsdaten und je höher die gewünschte Auflösung, desto größer wird das Modell – und sprengt schnell die Grenzen des verfügbaren Videospeichers (VRAM) auf Grafikkarten in herkömmlichen PCs. Nutzer:innen greifen daher auf GPUs in der Cloud zurück, die bis zu 80 Gigabyte VRAM liefern.

Google Colab verbietet Deepfake-Training

Ein häufig für Machine-Learning-Experimente genutzter Cloud-Service ist Googles Colab, eine Implementierung von Jupyter-Notebook-Umgebungen, die ein Remote-Training auf Cloud-Grafikkarten von Nvidia zulässt.

Der Service bietet neben verschiedenen bezahlten Abonnements, die Zugriff auf GPUs wie Nvidias A100 sicherstellen, auch einen kostenlosen Zugang, der die jeweils noch frei verfügbaren Ressourcen auf alle Nutzer:innen verteilt.

„Creating Deepfakes“ ist in Google Colab nicht mehr erlaubt. | Bild: Google

Mit Colab ließen sich daher bisher auch die Deepfake-Algorithmen von DeepFaceLab und FaceSwap trainieren, wie wir in unserer Deepfake-Anleitung zeigen.

Doch das ändert Google jetzt bei der kostenlosen Colab-Variante: Auf der Verbotsliste in den Nutzungsbedingungen steht neben DDOS-Attacken oder dem Mining von Cryptowährungen nun auch Deepfake-Training.

logo
  • checkMIXED.de ohne Werbebanner
  • checkZugriff auf mehr als 9.000 Artikel
  • checkKündigung jederzeit online möglich
ab 2,80 € / Monat
logo

Empfohlener Beitrag

Valve-Leaker Tyler McVicker erzählt alles was, er über das VR-Spiel weiß - mit einer Ausnahme.
VR für Reiche: High-End-VR wird massiv überschätzt
Mit Werbeeinnahmen bezahlen wir unsere Redakteur:innen.
Mit einem MIXED-Abo kannst Du unsere Seite werbefrei lesen.

Deepfake-Verbot: FaceLab-Entwickler geht nicht von ethischer Motivation aus

Die Nutzung von DeepFaceLab in Colab wirft bereits eine Warnung aus, berichten Nutzer:innen. Demnach kann das Ausführen des Codes zu einer Einschränkung der Nutzungsmöglichkeit seitens Google führen.

Der Code von FaceSwap erzeugt bisher keine Warnung – allerdings ist das Werkzeug auch deutlich weniger verbreitet. Grund für das Verbot seien wohl keine ethischen Gründe, vermutet Matt Tora, Co-Entwickler von FaceSwap. Vielmehr sei Colab als Plattform für KI-Forschende gedacht und nicht für das massenhafte und rechenintensive Training von Deepfake-Modelle.

„Es macht mich traurig, dass eine Möglichkeit für Menschen, mit unserem Code zu experimentieren, geschlossen wurde, aber im Hinblick auf den Schutz dieser besonderen Ressource, um ihre Verfügbarkeit für das eigentliche Zielpublikum zu gewährleisten, finde ich es verständlich“, so Tora.

Deepfake Tom Cruise

Der täuschend echte Tom-Cruise-Deepfake wurde mit dem jetzt in Colab verbotenem DeepFaceLab erstellt. | Bild: metaphysic.ai

Mit Googles Verbot fällt die wohl beste Möglichkeit für das kostenlose Deepfake-Training weg. Unklar ist bisher, ob die Einschränkung auch für die „Pro“- und „Pro+“-Varianten von Colab gilt.

Am Ende der Verbotsliste steht lediglich der Hinweis: „Für zahlende Nutzer gelten zusätzliche Einschränkungen.“ Allerdings tauchen Deepfakes in der Liste für Einschränkungen der Pro-Varianten bisher nicht auf – Kryptowährungen oder File-Sharing werden dort jedoch explizit doppelt genannt.

Der Verbreitung immer besserer Deepfakes wird das jedoch nicht im Weg stehen: Zahlreiche Cloud-Anbieter bieten verhältnismäßig günstigen Zugriff auf leistungsstarke GPUs.

Quellen: Unite.ai