In Zeiten des KI-Hypes scheint alles möglich. Jetzt soll eine KI laut diverser Medienberichte sogar Gedanken lesen können. Schaut man sich das Forschungspapier im Detail an, entpuppt sich das Projekt als deutlich weniger spektakulär.

Ein russisches Forscherteam veröffentlichte kürzlich eine neue Forschungsarbeit samt Video. In dem Video sitzt eine Person mit einer EEG-Haube auf dem Kopf vor einem Monitor und sieht kurze Videos. Daneben tauchen auf einem zweiten Monitor schemenhafte Bilder auf, die den Videos auf dem ersten Monitor ähneln.

Links ein Bild aus einem der Videos, rechts das Bild, dass die KI generiert hat. Bild: MIPT.

Links ein Bild aus einem der Videos, rechts das Bild, das die KI angeblich generiert hat. Bild: MIPT.

Klare Sache, oder? Hier ist eine gedankenlesende KI am Werk. Fertig ist die Schlagzeile: “KI liest Gedanken” oder “KI zeigt, was Menschen sehen und denken”.

Doch wer die wissenschaftliche Arbeit liest, oder das Video genau beobachtet, merkt: Hier werden keine Gedanken gelesen.

Gedankenlese-KI: Was eigentlich untersucht wurde

Die Forscher zeigten Zuschauern Videos aus fünf Kategorien: abstrakte Formen, Wasserfälle, menschliche Gesichter, sich bewegende Mechanismen und Motorsport aus der Fahrerperspektive.

Sie konnten in ihrem Experiment zunächst zeigen, dass sich die EEG-Daten für diese Videokategorien unterscheiden. Anschließend trainierten sie eine KI, aus den EEG-Daten die Videokategorien herauszulesen und zur Kategorie passende Bilder zu generieren. Sieht eine Person ein Wasserfallvideo, zeigt die KI ein Wasserfallbild.

Doch wie lässt sich dann die Ähnlichkeit zwischen den gezeigten und den generierten Videos erklären?

Darüber gibt das KI-Training Aufschluss: Dieses fand mit denselben Videosequenzen statt, die die Versuchspersonen vorher schon zu sehen bekamen. Dementsprechend ähneln sich die tatsächlichen und die generierten Bilder. Im Video wird deutlich, dass die KI tatsächlich nur zur Kategorie passende Bilder anzeigt.

Den Forschern selbst ist kein Vorwurf zu machen: In ihrer wissenschaftlichen Arbeit wird deutlich vermittelt, dass es um die Rekonstruktion von Bildkategorien geht – nicht um das Gedankenlesen.

Irritierend ist jedoch, dass die Forscher das korrelierte Bild nur als angedeutete Skizze zeigen anstatt im Original – das wäre nämlich möglich gewesen. Im Papier wird diese Darstellungsform damit begründet, dass das Originalbild die EEG-Messungen hätte stören können. Sie verstärkt allerdings den Eindruck, dass hier tatsächlich Bilder anhand von Hirndaten rekonstruiert wurden – und nicht nur Bildkategorien.

Vermeintliche KI-Sensation: Schon Täuschung oder noch PR?

Womöglich hat sich einfach die PR-Abteilung der Universität etwas zu weit aus dem Fenster gelehnt: Das Vergleichsbild am Anfang dieses Artikels stammt aus einer Meldung des Moskauer Instituts für Physik und Technologie.

Unterschrieben ist das Bild mit: “Jedes Bilderpaar zeigt einen Ausschnitt aus einem von einer Testperson gesehenen Video und das entsprechende Bild, das vom neuronalen Netzwerk basierend auf der Gehirnaktivität der Testperson erzeugt wird.”

Im Text steht außerdem folgendes Zitat des Mitautors Grigory Rashkov: “Wir haben nicht erwartet, dass ein EEG genügend Informationen enthält, um ein von einer Person beobachtetes Bild auch nur teilweise zu rekonstruieren. Doch es stellte sich heraus, dass das durchaus möglich ist.”

Die Meldung suggeriert so in der Tat, eine KI könne menschliche Gedanken aus EEG-Daten lesen, dabei werden lediglich EEG-Daten mit antrainierten Videokategorien korreliert. Das ist eine wissenschaftliche Erkenntnis, die etwa bei der Entwicklung von Gehirn-Computer-Schnittstellen hilfreich sein kann. Die zugrundeliegende Technik wird jedoch schon einige Jahre eingesetzt, um beispielsweise die Nerven gelähmter Patienten zu überbrücken.

Titelbild: YouTube, Quelle: Biorxiv, MIPT

Weiterlesen über Künstliche Intelligenz:

steady2

MIXEDCAST #171: Das Carmack-Drama, Stormland und Magic Leak | Alle Folgen


Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.