Als Google 2014 das Londoner KI-Unternehmen Deepmind übernahm, wurde auch die zukünftige Kontrolle über eine mögliche Super-KI verhandelt.

Falls Künstliche Intelligenz eines Tages das Potenzial entfaltet, das ihr nachgesagt wird, dann dürfte Googles Deepmind-Übernahme 2014 die wichtigste Investition des Konzerns gewesen sein. Google kaufte das Unternehmen zu einem aus heutiger Sicht Schnäppchenpreis von 500 Millionen US-Dollar. Zum Vergleich: Nur rund drei Monate nach Googles Deepmind-Übernahme investierte Facebook sechs Mal so viel in das VR-Startup Oculus.

Mit Googles Investitionen gelangen Deepmind in den letzten Jahren zahlreiche Forschungserfolge. Der wohl bemerkenswerteste war die Brettspiel-KI Alpha Zero, die sich in Go, Schach und Shogi von Grund auf und eigenständig auf übermenschliches Niveau trainierte.

“Kontrolle” über mögliche Super-KI liegt bei geheimem Ethik-Ausschuss

Bei der Übernahme 2014 verhandelte Deepmind mit Google über die Kontrolle der Zukunftstechnologie. Bekannt ist, dass sich Deepmind eine Vereinbarung sicherte, dass die eigene Künstliche Intelligenz nicht fürs Militär oder die Überwachung eingesetzt werden darf. Womöglich mit ein Grund, weshalb sich Google aus entsprechenden Militärverträgen zurückzog und derzeit keine Technologie für Gesichtserkennung anbietet.

In einem lesenswerten Porträt von Deepmind-Gründer Demis Hassabis beschreibt The-Economist-Autor Hal Hodson erstmals, dass seinerzeit auch die Gründung eines Ethik-Ausschusses beschlossen wurde. Beide Parteien unterzeichneten einen Vertrag mit dem Titel “Ethik- und Sicherheitsüberprüfungsvereinbarung”.

Diese Vereinbarung sieht vor, dass ein Ethik-Ausschuss die Kontrolle – wie auch immer diese aussehen würde –  über eine allgemeine Super-KI übernimmt, sollte Deepmind deren Entwicklung gelingen. In dem Ausschuss sollen die drei Deepmind-Gründer Demis Hassabis, Shane Legg und Mustafa Suleyman sitzen. Die weiteren Mitglieder sind nicht bekannt.

Deepmind kommentiert Hodsons Quellen auf Anfrage nicht konkret, antwortet aber, dass Ethik und Kontrolle seit den Anfangstagen des Unternehmens hohe Priorität hätten.

Titelbild: Deepmind

Weiterlesen über Super-KIs:


MIXEDCAST #159: Deepfake-Risiken, 6D-Cloud und VR-Amoktraining | Alle Folgen


Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.