Zwei Startups treten gegen KI-Fakes an: Sicherheitskopien und Blockchain sollen nachträgliche Bildveränderungen nachvollziehbar machen.

Stalin ließ unliebsame Personen noch per Hand aus Fotografien entfernen, heute geht es etwas leichter: Dank digitaler Bildbearbeitung sind Manipulationen in Fotos und Videos für Laien nicht mehr erkennbar.

Künstliche Intelligenz geht noch einen Schritt weiter: Sie kann nicht nur vorhandenes Material täuschend echt manipulieren, sondern auch vollständig gefälschte Bilder und Videos von Grund auf neu kreieren.

In Zukunft könnte dafür eine einfache App reichen, die man auf dem Smartphone installiert. Bildfälschung im Handumdrehen für jedermann.

Deepfakes als Initialzündung

Die als Deepfakes bekannten Verfahren wurden in den vergangenen Monaten deutlich verbessert und rücken aus der Schmuddelecke ins Zentrum politischer Auseinandersetzung. Künstliche Intelligenz kann zum Beispiel Aufnahmen von Politikern verändern und ihnen Worte in den Mund legen, die sie nie gesagt haben.

Schon eine einfache Videomanipulation wie die gezielte Beschleunigung eines Videoausschnitts kann eine ruckhafte Handbewegung wie einen Schlag wirken lassen. Im Vergleich zu KI-Fälschungen ist das Kreisliga-Niveau: Deepfakes und Co. können jeden Pixel im Bild manipulieren und zu neuen Inhalten zusammensetzen.

Die Menschen seien in der Vergangenheit ohne Videos und Fotos ausgekommen, um sich zu informieren und sich eine Meinung zu bilden, sagt der KI-Entwickler Ian Goodfellow, der Erfinder der KI-Technologie hinter Deepfakes.

“In diesem Fall schließt die Künstliche Intelligenz einige Türen, die unserer Generation für gewöhnlich offen standen.”

Der Wettlauf gegen KI-Fakes

Natürlich gibt es Versuche, solche KI-Fakes sicher zu entlarven. Zum Beispiel von der US-Behörde DARPA, die Anti-Deepfakes-Algorithmen erforschen lässt. In einem offenen Brief forderten US-Abgeordnete kürzlich den US-Geheimdienst auf, ein Gegenmittel gegen KI-Fälschungen zu entwickeln.

Um Fakes aufzudecken, schauen Bildforensiker nach Veränderungen und Unregelmäßigkeiten in der Aufnahme. Mit Computern erkennen sie veränderte Pixel und Metadaten, kleine Details. Oft sind Schatten oder Reflexionen nicht natürlich oder der Lidschlag nicht authentisch.

Das Problem: Werden die Forensiker besser, dann rüsten auch die Fake-Algorithmen auf. Ein Wettlauf mit ungewissem Ausgang.

Eine alternative Möglichkeit, ein neues Fake-Medienzeitalter zu verhindern, lässt sich nicht auf einen Mathe-Wettkampf ein. Stattdessen soll das Übel direkt am Ursprung eingefangen werden: Die Integrität einer Aufnahme wird direkt vom Gerät verifiziert, mit dem sie aufgezeichnet wurde.

Diese Verifikation kann zum Beispiel durch Metadaten stattfinden wie Koordinaten, Zeit, Höhe und nahen WLAN-Netzwerken. Der Ansatz ist gut, birgt aber zwei große Herausforderungen: Pro Tag werden etwa zwei Milliarden Fotos ins Netz geladen. Und eine nachträgliche Manipulation ist noch immer möglich.

Truepic und Serelay sichern Originale und verifizieren sie

Zwei Startups knüpfen an der Geräte-Verifizierung an und versprechen eine Lösung für die zuvor genannten Probleme.Sie arbeiten an Kamera-Technologie für iOS und Android, die Aufnahmen durch Metadaten und Pixelanalyse verifizieren und das Original sichern soll.

Liegt ein Fälschungsverdacht vor, kann eine veröffentlichte Kopie mit dem Original verglichen und so festgestellt werden, ob das Bild manipuliert wurde.

Truepic lädt dafür Bilder direkt nach der Aufnahme auf eigene Server hoch und legt eine Kopie samt Metadaten in der Blockchain ab. Serelay nutzt eine Art mathematischen Fingerabdruck, mit dem die Firma jede Manipulation bis auf Pixel-Ebene identifizieren kann.

Durch die Überprüfung der Aufnahme und die anschließende Sicherheitskopie können die Apps Bildmanipulationen während und nach der Aufnahme aufdecken. Dafür muss die App allerdings auch genutzt werden – ein Problem, das den Entwicklern bewusst ist.

Beide Startups stellen ihre Technik daher Drittanbietern zur Verfügung. Das Ziel: Kamera-Apps von Google, Apple oder Facebook sollen ebenfalls die Möglichkeit für verifizierte Aufnahmen erhalten.

Unter anderem nutzt der arabische Nachrichtensender Al Jazeera Truepic für verifizierte Videobotschaften.

Die Truepic-App gibt es kostenlos im Apple App Store und in Googles Play Store. Eine Serelay-Demo ist auf der offiziellen Webseite verfügbar.

Über KI-Fake-News diskutieren wir im VRODO-Podcast #64 ab Minute 26:50.

Via: Technology Review, Titelbild: Serelay (Screenshot)


MIXEDCAST #160: Ubsioft-VR, Kuro AR-Brille und Deepfake-App Zao | Alle Folgen


Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.