In Kommentarspalten und Online-Foren fühlen wir uns alle so frei, dem Gesprächspartner mal so richtig die Meinung zu sagen. Solche Streitgespräche eskalieren flott und sind dann für alle Beteiligten – aktiv und passiv – irgendwann unangenehm. Eine Künstliche Intelligenz könnte zukünftig bei der präventiven Moderation unterstützen.

Kabetec VR-Brille

Aktuelle KI-Systeme können Online-Texte mittels Musterabgleich gut auf Fakten und eindeutige Sachverhalte untersuchen, beispielsweise um Antworten auf klar formulierte Fragen zu geben – das kann eine KI mittlerweile sogar besser als der Mensch. So etwas wie Verständnis für den Inhalt und damit einhergehend ein Gefühl für die Intention eines Autors hat die Maschine jedoch nicht.

Forscher der Cornell Universität in New York kooperieren mit Wikimedia und Googles Technologie-Inkubator Jigsaw, um einer KI dieses Sprachgefühl anzutrainieren. Sie entwickelten ein Rahmengerüst, mit dem eine Künstliche Intelligenz vorhersehen lernen soll, ob ein Gespräch im Streit endet. Das System wird auf den Kommentarseiten von Wikipedia-Artikeln erprobt, auf denen mitunter hitzig über inhaltliche Änderungen diskutiert wird.

Das KI-System soll in diesen Konversationen Formulierungen entdecken, die auf Dankbarkeit und Verbundenheit oder Streit und Provokation hindeuten. Positive Signalwörter sind beispielsweise “Danke”, “Ich denke, dass …” oder “bitte”.

Kritisch wird es hingegen bei direkten Fragen wie “Warum hast Du das nicht beachtet?” und wenn der Adressat am Satzanfang direkt persönlich angesprochen wird: “Deine Meinung zählt nicht.” Die Forscher ergänzen das eigene Rahmengerüst mit einer Google-KI, die die generelle Tonalität in Online-Konversationen in “freundlich”, “neutral” oder “aggressiv” einteilt.

MIXED.de XR-Podcast - jetzt reinhören

Aktuell: Die große VR-Brillenschwemme | Alle Folgen



Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.