KI-Vorurteile: Twitter versucht es mit Crowdsourcing

KI-Vorurteile: Twitter versucht es mit Crowdsourcing

Auf der Suche nach Lösungen gegen KI-Vorurteile startet Twitter die weltweit erste Community-Challenge mit Preisgeldern.

KI-Systeme können verschiedene Formen von Vorurteilen (Bias) in sich tragen, die die Vorhersagen der Modelle ungewollt beeinflussen: Bildanalyse-Systeme erkennen Ärzte nur, wenn sie weiß und männlich sind oder identifizieren US-Politiker als Kriminelle, Recruiting-Software sortiert Bewerbungen von Frauen aus und Text-KIs generieren massive Vorurteile über Muslime, Juden oder Frauen. KI-Modelle mit Vorurteilen können große Schäden für marginalisierte Gruppen, Kunden und den Anbieter des KI-Services verursachen.

Ein Wettbewerb für mehr KI-Ethik

Die Vorurteile sind während der Entwicklung des KI-Systems schwer aufzuspüren und werden erst dann offensichtlich, wenn das KI-System im öffentlichen Raum von vielen Menschen genutzt wird, schreibt Twitter.

___STEADY_PAYWALL___

Das soziale Netzwerk möchte diesem Umstand zukünftig zuvorkommen: Ende Juli startet die erste „Algorithmic Bias Bounty Challenge“ im Rahmen der Online-Konferenz DEF CON AI Village. Solche Community-Wettbewerbe mit Preisgeldern sind seit Jahren etwa für die Bug-Suche in Betriebssystemen erfolgreich im Einsatz.

Ziel sei es, eine ähnliche Community für KI-Ethik aufzubauen, die helfen soll, ein „breiteres Spektrum an Problemen zu identifizieren, als es uns alleine möglich wäre“, heißt es in der Ankündigung. Twitter möchte so einen Präzedenzfall für die proaktive und kollektive Identifizierung von durch Algorithmen ausgelöste Schäden schaffen.

Twitter: Mit Crowdsourcing gegen KI-Risiken

Erstes Thema des Wettbewerbs ist ein Twitter-Algorithmus, der automatisch Bildausschnitte generiert. Der Algorithmus ist seit 2018 im Einsatz und sorgte im Oktober 2020 für Schlagzeilen, da Nutzer berichteten, dass das KI-Modell zahlreiche Vorurteile aufwies: Der Algorithmus bevorzugte weiße Menschen, Männer und generierte bei Frauen Bildausschnitte der Beine statt des Gesichts.

Twitter untersuchte daraufhin den Algorithmus, veröffentlichte ihn für andere Forscher und entschied, Nutzern mehr Kontrolle über die Bildausschnitte zu geben.

In der Community-Challenge sollen Teilnehmende nun eigene Einschätzungen des Algorithmus vornehmen. Ziel ist es, mit quantitativen und qualitativen Methoden zu zeigen, welche potenziellen Fehler der Algorithmus bei seiner Arbeit machen könnte.

Zu diesen Fehlern zählen laut Twitter sowohl „natürliche“ Fehler, die im normalen Umgang mit Twitter auftreten können, als auch Fehler, die durch manipulierte Bilder absichtlich hervorgerufen werden können.

Preisgelder gegen Vorurteile

Die Gewinner des Wettbewerbs werden am 08. August bekanntgegeben. Sie präsentieren ihre Arbeit auf einem Workshop. Als Preisgeld gibt es 3.500 US-Dollar für den ersten Platz, 1.000 US-Dollar für den zweiten und 500 US-Dollar für den dritten.

Zusätzlich gibt es 1.000 US-Dollar für den innovativsten Ansatz und 1.000 US-Dollar für den am besten generalisierbaren Ansatz. Bewertet werden die Einreichungen von Twitter und einer Reihe von Expertinnen für KI-Vorurteile.

Der erste Wettbewerb seiner Art könnte mehr als ein PR-Stunt sein: Unternehmen wie Twitter haben ein großes Interesse daran, eingesetzte Algorithmen vorurteilsfrei zu gestalten, um möglichst viele Nutzer zu erreichen und Kontroversen zu vermeiden.

Vorurteile können außerdem für gezielte Angriffe und Manipulationen genutzt werden: In einer möglichen Zukunft, in der sogenannte Social-Bots mit modernen Sprach-KIs für gezielte Meinungsbeeinflussung genutzt werden könnten, sind Angriffspunkte für sogenannte Adversial Attacks eine vorprogrammierte Katastrophe.

Titelbild: Twitter | Via: Twitter

Weiterlesen über Künstliche Intelligenz: