Facebook implementiert ein algorithmisches Frühwarnsystem, das den Nachrichtenstrom auf potenzielle Selbstmörder untersucht. Das Verfahren erkennt Signalwörter, markiert den entsprechenden Textabschnitt und informiert Helfer.

Die Künstliche Intelligenz soll potenzielle Selbstmörder anhand von Signalwörtern in Live-Videos, Beiträgen oder in den Kommentaren auf Beiträge (“Geht es Dir gut?” oder “Kann ich Dir helfen?”) erkennen. Das KI-System wurde mit Sätzen aus Beiträgen trainiert, die zuvor im Kontext eines möglichen Selbstmordrisikos von Nutzern gemeldet wurden.

Als Risikofälle markierte Beiträge werden an speziell ausgebildete Moderatoren gemeldet, die Freunde, Verwandte oder Ersthelfer alarmieren können.

Facebook testet mit “Wellness Checks”

Bisher verließ sich das soziale Netzwerk bei der Suizidprävention ausschließlich auf Warnungen von Nutzern. Ziel des neuen Algorithmus’ ist es, gefährdete Personen früh zu entdecken und ihnen schneller Hilfe zu senden.

Das KI-System soll auch die Dringlichkeit von Warnungen anderer Nutzer einschätzen können. Diese werden dann mit Empfehlungen für mögliche Unterstützung wie Kontaktdaten von lokalen Hilfsorganisationen priorisiert an Moderatoren weitergereicht, damit sie schneller reagieren können.

“Wir wollen bei jedem Schritt im Prozess einige Minuten einsparen, speziell bei Facebook Live”, sagt Facebooks Produktmanager Guy Rosen.

Im vergangenen Monat



Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.