Cyberbullying: Instagram stellt KI-gestütztes Anti-Mobbing-Feature vor

9.07.2019 Tomislav Bezmalinovic

Instagram will stärker gegen Online-Mobbing auf der eigenen Plattform unternehmen und stellt eine Funktion vor, die Cyber-Bullys zum Nachdenken anregen soll.

Instagram habe schon seit Jahren Künstliche Intelligenz genutzt, um Fälle von Cyber-Mobbing sowie verletzende Kommentare, Videos und Fotos aufzuspüren, schreibt der Leiter des sozialen Netzwerks Adam Mosseri in einem Blogeintrag. Mit dem Anwachsen der Instagram-Gemeinschaft wollte das Unternehmen stärker in Technologie investieren.

Die neue Funktion identifiziert mittels Künstlicher Intelligenz, ob ein Instagram-Nutzer einen potenziell schädlichen Kommentar verfasst und zwar noch bevor dieser veröffentlicht wird.

In einer Benachrichtigung wird der mögliche Cyber-Bully gefragt, ob er den Kommentar wirklich publik machen will (siehe Bild unten). Die automatisierte Intervention soll den Instagram-Nutzer zum Grübeln bringen. Testversuche seitens Instagram sollen ergeben haben, dass einige Instagram-Nutzer ihre Kommentare daraufhin entschärft oder nicht veröffentlicht haben.

Erzwingen will Instagram nichts: Der Cyber-Bully kann die böswillige Nachricht trotz Warnung abschicken.

Links: Der Nutzer verfasst einen verletzenden Kommentar. Rechts: Der Hinweis seitens Instagram. BILD: Instagram

Die soziale Plattform führt außerdem eine zweite Maßnahme gegen Cyber-Mobbing ein: Betroffene Instagram-Nutzer können neu Personen markieren, die verletzende Kommentare schreiben.

Die Nachrichten werden anschließend nur noch dem Cyber-Bully angezeigt. Markierte Übeltäter sehen zudem nicht, ob ihre Opfer online sind und ihre Nachrichten gelesen haben.

Instagram verspricht, dass für die Zukunft weitere Anti-Mobbing-Funktionen geplant sind. Die beiden neuen Features sollen zeitnah weltweit ausgerollt werden.

Mehr erfahren über KI:

• KI-Boom: Hype oder Realität? Fakten zur Künstlichen Intelligenz
• Zu gefährlich: Mächtige Text-KI wird bewusst nicht veröffentlicht
• Künstliche Intelligenz: Fünf fragwürdige KI-Trends der letzten Jahre

Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.