Anstatt Deepfakes erst im Nachhinein aufwendig auszusortieren, will ein Start-up Originale schon bei der Erstellung unwiderruflich als solche markieren und speichern – und so späteren Deepfakes die Luft aus den Segeln nehmen. Qualcomm unterstützt den Ansatz.

Industrie und Wissenschaft arbeiten fieberhaft an Methoden, um KI-gefälschte Videos und Fotos zu identifizieren. Die KI-Technik könnte bei flächendeckendem Einsatz dafür sorgen, dass Menschen nicht mehr wissen, welchen Fotos und Videos sie noch trauen können. Das könnte den Diskurs innerhalb einer Gesellschaft zum Erliegen bringen.

Zwar gibt es Ansätze, um Deepfakes verlässlich zu erkennen – aber das Wettrennen zwischen Detektor und Fälscher könnte der Fälscher endgültig für sich entscheiden: Denn wenn die KI-Fälschung keine Auffälligkeiten im Vergleich zu einem Original mehr aufweist, kann selbst die beste Deepfake-Erkennung nichts ausrichten. Wegen des enormen Fortschritts bei der Deepfake-Entwicklung in den letzten Jahren scheint diese Zukunftsaussicht weder abwegig noch weit entfernt.

Authentifizierung by design

Das Start-up Truepic schlägt eine Alternative zur Deepfake-Detektion vor: Bilder und Videos sollen bei der Erstellung als authentisch markiert und mit ortsgebundenen Metainformationen versehen werden. Truepics Technologie lädt die Bilder direkt nach der Aufnahme an eine sichere Stelle im Smartphone. Dort authentifiziert die Truepic-Software Pixel, Datum und Uhrzeit, Geolokalisierung und eine 3D-Tiefenkarte des Bildes.

Soziale Netzwerke könnten anhand dieser Daten die Authentizität einer Aufnahme bestätigen und Bilder ohne Truepic-Zertifizierung detaillierter analysieren. Liegt ein Fälschungsverdacht vor, kann eine veröffentlichte Kopie mit dem Original verglichen und so festgestellt werden, ob das Bild manipuliert wurde.

Truepic selbst hat keinen Zugriff auf die lokal gespeicherten Daten. Von der ursprünglich geplanten Speicherung der Bilder in der Blockchain nahm das Start-up wieder Abstand, da die Blockchain-Technik der täglichen Bilderflut nicht gewachsen sei.

Anti-Deepfake-Technik: Qualcomm macht mit

Der Smartphone-Chiphersteller Qualcomm will die Technologie von Truepic zukünftig in die eigenen Chips integrieren, sodass die Bildauthentifizierung direkt auf einem Snapdragon-Chip stattfinden kann. Ein Bild wird direkt aus dem Kamerasensor in eine Vertrauenszone übertragen, wo die Verarbeitung und die Anreicherung mit Metadaten passiert. Hier sollen die gleichen Sicherheitsstandards gelten wie bei Online-Bezahlung oder Gesichtserkennung.

Laut Sherif Hanna, Leiter für Forschung und Entwicklung bei Truepic, ist es bei diesem Prozess für keine Software auf dem Smartphone mehr möglich, die Metadaten des Bildes zu manipulieren. Implementiert wird Truepic direkt in die Kamera-Software der verschiedenen Hersteller, insofern diese einen Snapdragon-Chip verwenden und Truepic-Technologie freischalten. In der Kamera-App könnten Nutzer bei einem Foto auswählen, ob sie es wie gehabt aufnehmen oder in einem speziellen Secure-Modus (siehe Titelbild).

Mit der “Vision Camera” bietet Truepic zwar auch eine eigene App an, die auf jedem Smartphone läuft. Allerdings sind die Download-Zahlen zu gering, als dass die App im Alleingang einen möglichen Deepfake-Trend ausbremsen könnte. Durch die Partnerschaft mit Qualcomm jedoch könnte Truepic innerhalb kürzester Zeit Millionen Menschen erreichen.

Das Prototyp-Smartphone mit Truepic-Technologie läuft auf Basis eines Snapdragons 865, laut Qualcomm kann Truepic aber auf sämtlichen Snapdragon-Chips eingesetzt werden. Erste Smartphone-Hersteller sollen Bereitschaft signalisieren, die Truepic-Technologie an die Kunden weiterzurreichen. Wann erste Truepic-Smartphones verfügbar sein werden, ist noch nicht bekannt.

Quelle: Cnet

Weiterlesen über Deepfakes:

steady2

MIXED.de Podcast: VR, AR und KI - jede Woche neu

Jetzt reinhören: Alle Folgen


Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.