Facebooks neuer Chatbot hat ein digitales Gedächtnis

Facebooks neuer Chatbot hat ein digitales Gedächtnis

Facebooks neuer Chatbot BlenderBot 2.0 greift auf das Internet zu und soll so die Schwächen von GPT-3 und anderen Sprach-KIs überwinden.

OpenAIs GPT-3 generiert Texte, die Menschen in den allermeisten Fällen nicht mehr als KI-generiert erkennen. Das KI-System kann daher vielfältig eingesetzt werden, etwa als Chatbot. Doch selbst das riesige 175 Milliarden Parameter große Modell von GPT-3 hat drei große Schwächen.

  1. Die letzten Trainingsdaten sind von 2019. Fragen zur Coronapandemie etwa kann GPT-3 daher nicht beantworten.
  2. Die KI antwortet trotzdem! Immer wieder halluziniert GPT-3 glaubwürdig klingende Antworten und verzapft dabei erstklassigen Bullshit.
  3. GPT-3 antwortet inkonsistent, da sich die KI frühere Antworten nicht konkret und nur eingeschränkt als Kontextinformation merken kann. Nach wenigen Sätzen gibt die KI daher andere Antworten auf die gleichen Fragen.

Mögliche Lösungen für diese Probleme könnten der regulierte Echtzeitzugriff auf das Internet und ein besseres digitales Gedächtnis sein, zeigt ein neuer Chatbot von Facebook: BlenderBot 2.0 ist der Nachfolger der im Frühling 2020 vorgestellten Open-Source Social-Chat-App BlenderBot 1.0 der KI-Forscher das AI Research Labs (FAIR). Auch die erste BlenderBot-Version hatte mit Gedächtnisproblemen, Fake-Fakten und eingeschränktem Wissen zu kämpfen.

___STEADY_PAYWALL___

BlenderBot 2.0 mit Gedächtnis und Internetzugang

BlenderBot 2.0 setzt wie sein Vorgänger und GPT-3 auf Transformer (Erklärung) und ist laut Facebook der erste Chatbot, der gleichzeitig sein Langzeitgedächtnis aufbauen, das Internet durchsuchen und anspruchsvolle Gespräche führen kann. In Tests mit Menschen habe die neue Version längere, sachkundige und konsistente Konversationen über mehrere Sitzungen hinweg führen können.

Eine Beispielkonversation mit Blender 2.0. Der Chatbot speichert zwischendurch bereits gegebene Antworten. | Bild: Facebook

Eine Beispielkonversation mit BlenderBot 2.0. Der Chatbot speichert zwischendurch bereits gegebene Antworten. | Bild: Facebook

In das Langzeitgedächtnis speichert BlenderBot 2.0 relevante Informationen über seine Antworten oder seinen Gesprächspartner. Diese Informationen werden für jeden Gesprächspartner getrennt gespeichert, um sicherzustellen, dass keine privaten Informationen in einem anderen Gespräch verwendet werden.

Während des Gesprächs generiert BlenderBot 2.0 kontextbezogene Internet-Suchanfragen und kann die Ergebnisse für seine Antworten nutzen. Das Modell bleibt so laut Facebook immer auf dem neuesten Stand.

Multimodale Chatbots sollen auch auf Bilder reagieren

Trotz der Fortschritte gegenüber BlenderBot 1.0 sieht Facebook noch Potenzial für Verbesserungen. BlenderBot 2.0 reduziert die Modellhalluzinationen stark, verhindert sie aber nicht komplett. Das Gleiche gilt für Widersprüche und unsicherer Sprache. Trotz Langzeitgedächtnis lerne der Chatbot außerdem noch nicht aus seinen Fehlern, so die Forscher.

Facebooks KI-Forscher wollen daher weiter an BlenderBot arbeiten und testen bereits multimodale Chatbots, die auch auf Bilder reagieren können. Diese und andere Verbesserungen könnten „virtuellen Assistenten und digitalen Freunden zugutekommen“, schreibt Facebook.

BlenderBot 2.0 liegt in zwei Versionen mit je 400 Millionen und 2,7 Milliarden Parametern vor. Alle Details gibt es auf BlenderBots 2.0 ParlAI-Webseite.

Quelle: Facebook

Weiterlesen über Künstliche Intelligenz: