KI-Forscher über seine Branche: „Wir sind zunehmend verängstigt“

KI-Forscher über seine Branche: „Wir sind zunehmend verängstigt“

Der KI-Forscher Stuart Russell glaubt, dass seine Branche besorgt ist, mit der ihr zugewiesenen Verantwortung richtig umgehen zu können.

Mit Werbeeinnahmen bezahlen wir unsere Redakteur:innen.
Mit einem MIXED-Abo kannst Du unsere Seite werbefrei lesen.

Sundar Pichai, der mit Alphabet eines der wichtigsten KI-Unternehmen führt, glaubt, dass Künstliche Intelligenz den Werdegang der Menschheit ähnlich grundlegend beeinflussen wird wie Feuer oder Elektrizität. Mit dieser Überzeugung ist Pichai in der KI-Branche nicht allein. KI soll dort Fortschritte erzielen, wo die Menschheit an ihre Grenzen gelangt und ihre grundlegenden Probleme lösen: Klimawandel, soziale Ungerechtigkeit, Krankheit.

Diese hohe Erwartung wiederum bürdet der KI-Branche eine enorme Verantwortung auf. Einerseits ist da der Druck, aus Laborerfolgen Anwendungen zu schaffen, die der Menschheit zugutekommen. In vielen Bereichen gelingt das bereits, das positive Aushängeschild ist Deepminds Alphafold.

Andererseits hat KI-Technologie eine hohe Komplexität. Das erschwert gerade den flächendeckenden Einsatz von KI. Aufgrund des enormen Skalierungpotenzials Künstlicher Intelligenz könnten selbst geringfügige unerwünschte Verhaltensweisen der KI-Systeme enorme Auswirkungen auf das Leben vieler – oder sogar aller – Menschen haben. Empfehlungsalgorithmen in sozialen Netzwerken oder in Suchmaschinen sind hier Beispiele aus dem Alltag.

Fürchtet sich die KI-Branche vor dem eigenen Erfolg?

„Die KI-Gemeinschaft hat sich noch nicht auf die Tatsache eingestellt, dass wir jetzt anfangen, einen wirklich großen Einfluss in der realen Welt zu haben“, sagt Stuart Russell, ein anerkannter Wissenschaftler im Feld Künstliche Intelligenz.

Bislang habe sich die KI-Entwicklung primär im Labor abgespielt, sodass die Frage nach Auswirkungen auf die reale Welt nicht von Belang gewesen sei, sagt Russell. „Jetzt müssen wir sehr schnell erwachsen werden, um diesen Rückstand aufzuholen.“

Russell schrieb 1995 gemeinsam mit Peter Norvig das Standardwerk „Artificial Intelligence: A Modern Approach“. An der University of California, Berkeley, lehrt er KI und gründete ein Forschungszentrum für menschengerechte Künstliche Intelligenz.

Mit Werbeeinnahmen bezahlen wir unsere Redakteur:innen.
Mit einem MIXED-Abo kannst Du unsere Seite werbefrei lesen.

Russell zielt auf das KI-Kontrollproblem ab

Russells Bedenken beziehen sich insbesondere auf das sogenannte Ausrichtungsproblem Künstlicher Intelligenz: Mit zunehmender Selbstständigkeit müssen KI-Systeme möglichst exakt entlang menschlicher Bedürfnisse agieren. Tun sie das nicht, könnte das katastrophale Folgen haben bis hin zur Auslöschung der Menschheit, ein Szenario, das der Philosoph Nick Bostrom in seinem Gedankenspiel Paperclip Maximizer beschreibt.

logo
  • checkMIXED.de ohne Werbebanner
  • checkZugriff auf mehr als 9.000 Artikel
  • checkKündigung jederzeit online möglich
ab 2,80 € / Monat

Russell erklärt das Ausrichtungsproblem drastisch anhand einer KI, die Krebs heilen soll: „Sie würde wahrscheinlich Wege finden, um in der gesamten menschlichen Bevölkerung Tumore zu erzeugen, so dass sie Millionen von Experimenten parallel durchführen und uns alle als Versuchskaninchen benutzen kann“, sagt Russell gesetzt den Fall, dass der KI nicht vorgegeben wurde, dass Menschen ungern Versuchskaninchen sind.

Russells Lösungsansatz: Die KI als Butler der Menschheit

Russells Lösungsvorschlag für das Ausrichtungsproblem ist, dass KI zuerst grundlegende menschliche Vorlieben und Bedürfnisse versteht, etwa, nicht getötet zu werden, und sich dann eigene Ziele setzt, die diese Bedürfnisse berücksichtigen.

Menschliches Verhalten soll der KI als Informationsquelle für die eigenen Ziele dienen. Doch auch dieser Vorschlag hat seine eigenen Herausforderungen, etwa, dass menschliche Bedürfnisse je nach Kultur unterschiedlich sein und im Konflikt stehen können.

Russell will ob dieser Komplexität der KI-Entwicklung und ihrer zunehmenden Auswirkung auf die echte Welt eine grundlegende Verunsicherung der KI-Branche erkennen. „Ich glaube, wir sind zunehmend verängstigt“, sagt Russell über sich und seine Kolleg:innen.

Ihn erinnere die aktuelle Situation an die Zeit, als Physiker:innen herausfanden, dass Atomenergie existiert. „Sie konnten die Massen verschiedener Atome messen und sie konnten herausfinden, wie viel Energie freigesetzt werden könnte, wenn man die Umwandlung zwischen verschiedenen Arten von Atomen vornehmen könnte“, sagt Russell. Forscher:innen hätten stets betont, dass diese Ideen theoretisch seien. „Und dann passierte es, und sie waren nicht bereit dafür“, sagt Russell.

Als besonderes Risiko sieht Russell KI im Militär, speziell miniaturisierte, gegen Menschen gerichtete Waffen, von denen man „Millionen in einen einzigen Lastwagen packen“ und dann „eine ganze Stadt aulöschen“ könnte.

Weiterlesen über Künstliche Intelligenz:

Quelle: The Guardian