Die Non-Profit-Organisation OpenAI fordert, dass neben Informatikern auch Sozialwissenschaftler die KI-Entwicklung prägen sollen.

Für eine sichere KI-Entwicklung braucht es neben Spezialisten für maschinelles Lernen auch Sozialwissenschaftler. So lautet die Forderung des KI-Forschungsinstituts OpenAI, das von Tech-Milliardären wie Peter Thiel (u.a. Paypal) und Reid Hoffmann (u.a. Linkedin) unterstützt wird.

Ein Großteil der KI-Sicherheitsforscher fokussiere sich auf maschinelles Lernen, heißt es in einer neuen Veröffentlichung. Die Tech-Expertise alleine liefere jedoch keinen ausreichenden fachlichen Hintergrund, um sicherzustellen, dass KI und Mensch sinnvoll miteinander kooperieren.

Diese Lücke müssten Sozialwissenschaftler mit ihrem Fachwissen zu menschlicher Wahrnehmung, Verhalten, Ethik und zur Durchführung von Experimenten füllen. Erst die Zusammenarbeit zwischen den beiden Fachrichtungen könne dafür sorgen, dass eine Künstliche Intelligenz so handele, wie es ihre Erschaffer planten.

Was schiefgehen kann, wenn eine KI eine Aufgabe durch ungeplante Aktionen erfüllt, zeigt dieser fatalistische Büroklammer-Simulator.

Einfühlen in die Maschine

Ein Vorschlag von OpenAI für den Umgang mit komplexen Aufgabenstellungen lautet: Menschen sollen KI-Aufgaben in Debatten diskutieren, bei denen eine Person die Rolle der Maschine übernimmt und mit einer zweiten Person mögliche Handlungsweisen bespricht. Eine dritte Person überwacht und bewertet die Gespräche. Die dabei gewonnenen Erkenntnisse sollen dann auf das Maschinenlernen übertragen werden.

“Für die richtige Ausrichtung fortschrittlicher KI entlang menschlicher Werte müssen wir Unklarheiten auflösen im Zusammenhang mit der Psychologie der menschlichen Rationalität, Emotionen und Vorurteilen”, heißt es im Papier. “Wir glauben, dass eine enge Zusammenarbeit zwischen Sozialwissenschaftlern und KI-Forschern das Verständnis der menschlichen Seite der KI-Entwicklung verbessern kann.”

OpenAI möchte aus diesem Grund Vollzeit einige Sozialwissenschaftler einstellen.

Weiterlesen über Künstliche Intelligenz:


MIXED-Podcast #143: Google I/O und High Fidelity VR-Abschied | Alle Folgen


Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.