Update: 30.06.2020

Mittlerweile hat sich der Verlag Springer Nature zur Situation geäußert: Die Entscheidung, den umstrittenen Beitrag nicht zu veröffentlichen, fiel bereits vor der Veröffentlichung des offenen Briefs und ist daher keine direkte Reaktion auf diesen.

„Wir erkennen die Bedenken im Hinblick auf diese Studie an und möchten klarstellen, dass diese Arbeit zu keinem Zeitpunkt für eine Veröffentlichung angenommen wurde. Die Studie wurde für eine bevorstehende Konferenz eingereicht, für die Springer den Konferenzband in der Buchreihe Transactions on Computational Science und Computational Intelligence publizieren wird. Nach einem sorgfältigen Peer-Review-Prozess hat der Reihenherausgeber die Annahme des finalen Artikels abgelehnt. Diese Entscheidung wurde am 16. Juni getroffen und den Autoren am 22. Juni offiziell mitgeteilt.

Inhalte und Details zum Peer-Review-Prozess sind vertrauliche Informationen zwischen Herausgeber, Gutachtern und Autoren“

Ursprünglicher Artikel vom 24. Juni 2020:

Wissenschaftler stoppen Veröffentlichung umstrittener KI-Forschung

Eine KI soll Verbrecher an ihrem Gesicht erkennen, noch bevor sie ein Verbrechen begangen haben, versprechen Autoren einer aktuellen Forschungsarbeit. Über 1.700 Wissenschaftler wehren sich gegen ihre Veröffentlichung – zunächst mit Erfolg.

Im Mai kündigten KI-Forscher der privaten US-Universität Harrisburg eine neue Künstliche Intelligenz an, die angeblich Kriminelle anhand ihrer Gesichtszüge erkennen soll, bevor sie überhaupt ein Verbrechen begangen haben.

Kurz nach der Veröffentlichung der Ankündigung des wissenschaftlichen Papiers wird diese nach einem Proteststurm wieder von der Webseite genommen: Die Fakultät aktualisiere das Forschungspapier, um den aufgeworfenen Bedenken Rechnung zu tragen, heißt es im Statement der Universität.

Die Proteste hatten einen fundierten Hintergrund: Ein Blick auf vergleichbare KI-Forschung zeigt, wie fragwürdig entsprechende Projekte sind.

KI-Experten kritisieren unwissenschaftliche Praxis

In einem offenen Brief wenden sich jetzt über 1.700 Forscher an den deutschen Springer-Verlag und fordern eine kritische Überprüfung der geplanten Veröffentlichung der Harrisburg-Universität. Das Forschungspapier sollte im Fachjournal “Springer Nature – Reasearch Book Series: Transactions on Computational Science and Computational Intelligence” erscheinen.

Unter den Unterzeichnern sind KI-Experten, Sozialwissenschaftler, Historiker und Anthropologen aus öffentlichen Universitäten und Tech-Konzernen wie Google, Microsoft und Facebook – darunter auch KI-Pionier Yann LeCun, der Facebooks Künstliche-Intelligenz-Abteilung leitet.

Das sind die drei Hauptkritikpunkte der Forscher an der wissenschaftlichen Arbeit:

  1. Vom Strafrechtssystem generierte Daten seien grundsätzlich ungeeignet, um Kriminelle zu identifizieren oder kriminelles Verhalten vorherzusagen.
  2. Eine mathematische Definition von Fairness reiche nicht aus, um gerechte Algorithmen zu entwickeln.
  3. Technologien zur Verbrechensvorhersage reproduzierten Ungerechtigkeit und verursachten Schaden.

Springer soll sich positionieren

Die Wissenschaftler fordern Springer auf, in einem öffentlichen Statement die Nutzung und Entwicklung solcher KI-Systeme zu kritisieren und die eigene Rolle in der Förderung entsprechender Forschung einzugestehen.

Weitere Forschung dieser Art solle weder von Springer noch einem anderen wissenschaftlichen Verlag veröffentlicht werden.

Mittlerweile hat Springer Nature über Twitter mitgeteilt, dass der entsprechende Artikel nicht im eigenen Journal veröffentlicht wird.

Ob diese Entscheidung schon im Vorfeld gefallen oder eine direkte Reaktion ist auf den offenen Brief, ist bisher unklar. Eine Antwort seitens Springer steht aus.

Die Risiken der KI-Physiognomie besprechen wir in unserem Podcast Folge #195.

Titelbild: Wu et al.

Weiterlesen über Künstliche Intelligenz:

steady2

MIXED.de XR-Podcast - jetzt reinhören

Aktuell: So steht es um VR-Gaming | Alle Folgen



Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.