Ziellos zum Ziel: Braucht es Ergebnisoffenheit für menschengleiche KI?

Ziellos zum Ziel: Braucht es Ergebnisoffenheit für menschengleiche KI?

KI-Forscher Kenneth O. Stanley glaubt, dass uns Benchmarks auf dem Weg zur menschengleichen KI behindern. Er fordert mehr Ziellosigkeit in der Forschung.

Wer heute in der Forschung Geld möchte, muss liefern: Ohne konkrete Zielsetzung und einen Vorschlag, wie dieses Ziel zu erreichen ist, haben Anträge auf Förderung kaum mehr Aussichten auf Erfolg.

Das klingt erst einmal sinnvoll, schließlich scheinen so ein Großteil technologischer Innovationen zu entstehen: Es gibt ein klares Ziel, auf das in kleinen Schritten hingearbeitet wird.

___STEADY_PAYWALL___

KI-Forscher Kenneth O. Stanley glaubt jedoch, dass diese Zielstrebigkeit den technologischen Fortschritt in eine Sackgasse führt. Er fordert: weniger Ziele und mehr Ergebnisoffenheit. Menschen sollten Ideen nachgehen, weil sie interessant sind – selbst wenn sie auf den ersten Blick nicht an ein Ziel führen.

Klingt wie New-Age-Lebensberatung? Ein bisschen. Aber Stanley hat gute Argumente.

Künstliche Intelligenz und der Mond

Aktuelle KI-Algorithmen lösen spezifische Probleme: Schachspielen, Katzen erkennen, Roboter steuern oder Texte generieren. Prozesse wie Gradient Descent optimieren das neuronale Netz (Erklärung) für diese Aufgaben. Gemessen wird der KI-Fortschritt mit spezialisierten Benchmarks.

Die Fortschritte bei der Lösung einzelner Aufgaben sollen die KI-Forschung Stück für Stück ihrem Ziel einer menschengleichen Intelligenz näherbringen. Doch Stanley befürchtet, dass die Benchmark-orientierten Forscher blind in eine Sackgasse laufen.

„Nach allem, was wir wissen, könnten wir mit unseren aktuellen Ansätzen einem Irrweg folgen“, sagt der KI-Forscher. Zwar steige die KI-Leistung in Benchmarks konstant, doch das sei, „als würde man sagen, weil man auf die Spitze eines Baums geklettert ist, kommt man wahrscheinlich zum Mond.“

Evolution als ergebnisoffener Algorithmus

Statt eines Algorithmus, der nur ein Problem löst, brauche es einen Algorithmus, der unendlich viele Probleme löse, auf die er in einem explorativen Prozess stoße. So einen „Algorithmus“ gäbe es bereits: Evolution.

„Evolution bedeutet Ergebnisoffenheit. Sie löst nicht ein einzelnes Problem“, sagt der KI-Forscher. Stattdessen erfinde Evolution zahlreiche Lösungen für immer neue Probleme, darunter Fotosynthese, Fliegen und menschliche Intelligenz – und das in einem einzigen, seit mehreren Milliarden Jahren andauernden Lauf.

Die Tatsache, dass diese Lösungen so weit von ihrem Einzeller-Ursprung entfernt sind, sieht Stanley als klaren Hinweis darauf, dass Evolution ein ergebnisoffener Prozess ist, der kein spezifisches Ziel verfolgt.

„Ich glaube, Evolution würde nicht funktionieren, wenn sie nur ein Optimierungsprozess mit einem Ziel wäre, etwa aus einem Einzeller menschliche Intelligenz zu entwickeln. ‚Lass uns den Zell IQ-Tests geben und diesen ganzen sinnlosen Kram wie Plattwürmer überspringen.‘ Das würde nicht funktionieren, die Kolonie würde einfach aussterben.”

KI-Forscher müssen Umdenken

Die naheliegende Lösung: generative oder evolutionäre Algorithmen. Doch auch die würden aktuell für Optimierungsprozesse verwendet, so Stanley.

„Evolution ist ein nie endender Algorithmus“, sagt Stanley. Forscher sollten sich fragen: „Habe ich einen Algorithmus, den ich ausführen möchte und denke, er ist es wert, nach einer Milliarde Jahre vorbeizuschauen und zu gucken, was passiert ist? So einen Algorithmus gibt es bisher nicht. Wir haben nicht einmal einen, bei dem es sich lohnen würde, ein Jahr zu warten.“

Evolution laufe dagegen immer weiter und löse Probleme, die weit über unsere technischen Fähigkeiten hinausgingen.

Stanley ist überzeugt: Wir sollten einen mit der Evolution vergleichbar ergebnisoffenen Prozess anstoßen. Die Rechenkapazitäten dafür seien mittlerweile vorhanden. Ein solcher Algorithmus könne der Schlüssel auf dem Weg zu menschengleicher Künstlicher Intelligenz sein.

Eine umfassende Darstellung und Diskussion seiner Position findet ihr im „Machine Learning Street Talk“-Podcast.

Weiterlesen über Künstliche Intelligenz: