KI-Training auf spezialisierter Hardware soll zukünftig deutlich größere neuronale Netze ermöglichen.
Die KI-Wissenschaftler Geoffrey Hinton (Universität Montreal / Microsoft) und Yoshua Bengio (Universität Toronto / Google) sowie Facebooks KI-Chef Yann LeCun wurden im März 2019 mit dem höchsten Preis der Informatik für ihre Deep-Learning-Beiträge geehrt.
Bei einer Fachkonferenz in New York (via ZDNet) diskutierten die drei KI-Pioniere über den aktuellen Stand der Technologie: Alle drei Forscher gehen davon aus, dass die KI-Trainingsmethode “unüberwachtes Lernen” (Erklärung) die nahe Zukunft der Künstliche-Intelligenz-Entwicklung prägen wird.
Das unüberwachte Lernen bringe KI-Systeme “auf das nächste Level”, sagt LeCun. “Es wird eine Art gesunder Menschenverstand entstehen.”
Beim unüberwachten Lernen sucht eine KI in großen Datenmengen eigenständig nach Mustern, ohne dass Menschen die Daten zuvor klassifizieren müssen. Dadurch wächst die Menge an Daten für das KI-Training potenziell deutlich an. Außerdem kann die KI Muster erkennen, die Menschen womöglich verborgen bleiben – und so neue Erkenntnisse schaffen.
Spezialisierte KI-Chips für größere Netze
KI könne außerdem einen großen Sprung machen, wenn neuronale Netze auf speziell für das KI-Training optimierten Chips trainiert werden. Diese böten im Vergleich zu derzeit gängigen Grafikkarten höhere Speicherkapazität und schnelleren Zugriff direkt auf dem Chip. Das KI-Training per GPU sei nicht effizient.
LeCun prognostiziert, dass neue Hardware zu “deutlich größeren neuronalen Netzen” führe. Laut Hinton sind die auch notwendig: Aktuelle KI-Systeme böten Milliarden künstlicher Synapsen. Im Vergleich zum menschlichen Gehirn sei das winzig.
“Es gibt eine Billion Synapsen in einem Kubikzentimeter des Gehirns”, sagt Hinton. “Wenn es so etwas wie eine generelle KI (Erklärung) geben könnte, würde sie wahrscheinlich eine Billion Synapsen benötigen.”
Umgekehrt sei es wichtig, dass die Leistung aktueller KI-Systeme mit geringerem Energieaufwand erzielt werden könne, so LeCun. Die Idee, KI schade dem Klima, sei dennoch “einfach falsch”.
“Der jährliche Energieverbrauch von Facebook für jeden Facebook-Nutzer beträgt 1.500 Wattstunden”, sagte er. Im Vergleich zu anderen energiefressenden Technologien sei das nicht viel.
Titelbild: Cerebras
Login mit Steady