Grover ist eine Künstliche Intelligenz, die KI-generierte Fake News erkennt. Notwendige Voraussetzung: Die KI schreibt selbst gute Fake News.
Wer überzeugende Fake News schreiben will, musste sich bisher die Mühe machen, selbst zu tippen. Der Job des Fake-News-Redakteurs ist allerdings nicht mehr sicher: Text-KIs drohen ihn zu ersetzen und das Internet mit Unmengen an automatisch generierten Fake News zu überschwemmen.
Das befürchtete zumindest OpenAI, als die KI-Schmiede ihre mächtige Text-KI GPT-2 vorstellte. OpenAI verabschiedete sich daher von der bis dahin praktizierten Open-Source-Politik und veröffentlichte den Quellcode nicht.
Jedenfalls nicht den vollständigen: Seit der Vorstellung wurden zwei abgeschwächte Varianten der KI veröffentlicht. Zur vollständige Version haben nur ausgewählte KI-Forscher Zugang.
Mit den eigenen Waffen schlagen
Forscher der Universität Washington nutzen nun einen zu GPT-2 identischen KI-Aufbau, um potenzielle Fake-News-Generatoren mit den eigenen Waffen zu schlagen. Dabei heraus gekommen ist die KI “Grover”.
Grover beruht auf einer einfachen Idee: Der beste Weg, um KI-generierte Fake News zu erkennen, ist eine KI, die selbst Fake News erstellt.
Dazu orientierten sich die Forscher an der Architektur von GPT-2 und trainierten ihre KI mit echten News-Artikeln der letzten drei Jahre. Insgesamt sammelten die Forscher 120 Gigabyte reinen Text aus Google News.
Die Forscher trainierten – ähnlich wie OpenAI – drei verschiedene Versionen von Grover. Die größte heißt Grover-Mega und ist ein 48-Schichten-Netzwerk. Damit entspricht die KI der bisher unveröffentlichten Vollversion von GPT-2.
Das Training hat sich gelohnt: Grover schreibt Fake News wie ein Profi. Die Fake News sind selbst mit der abgeschwächten Variante von Grover noch besser als die der jüngsten GPT-2-Version.
Das liegt am spezialisierten News-Training und an Grovers zusätzlichen Fähigkeiten: Die KI generiert neben Artikel auch Titel, News-Quelle, Veröffentlichungsdatum und Autorenliste. Beispiele für Grover Fake News stehen hier.
Grover kann Quelle, Datum, Autor, Titel und Text generieren. Bild: Zellers et al.
Beispiel für eine von Grover generierte Fake News. Bild: Screenshot
Grover erkennt sogar menschliche Fake News
Diese starke Leistung überträgt sich wie erhofft auf Grovers Fähigkeit, Fake News zu erkennen. Die KI identifzierte knapp 96 Prozent aller 500 von OpenAI veröffentlichten GPT-2-Beispiele als KI-generierten Text. Ihre eigenen Texte klassifiziert Grover zu 92 Prozent korrekt als KI-generiert.
Doch Grover kann noch mehr: In einem weiteren Test musste sie von menschlichen Autoren geschriebene echte und falsche News auseinanderhalten. Zusätzlich waren unter die News noch KI-generierte Texte gemischt.
Die KI erkannte 95 Prozent der von Menschen geschriebenen und KI-generierten Fake News. Die Erklärung der Forscher: Menschliche Fake News ließen sich durch ihren Stil identifizieren.
Grover ist (beinahe) frei verfügbar
Die Forscher stellen ihre KI frei zur Verfügung. Nur die mächtigste Version bleibt der Forschung vorbehalten. Wer sie nutzen will, muss die Gruppe kontaktieren.
Den im Vergleich zu OpenAI etwas lockereren Umgang mit der risikoreichen Technologie begründen die Forscher mit den für Staaten und Firmen recht geringen Trainingskosten von rund 35.000 US-Dollar, der frei verfügbaren Bauanleitung und der Tatsache, dass die beste Verteidigung gegen einen ausgereiften Fake-News-Generator ein noch mächtigerer Fake-News-Generator ist, der diese erkennt.
Eigene Fake News generieren könnt ihr auf dieser Website. Hier läuft die Grover-KI direkt im Browser. Den Code von Grover findet ihr bei Github. Mehr Informationen stehen auf der Projektseite.
Quelle: Arxiv
Login mit Steady