Der Artikel kann nur mit aktiviertem JavaScript dargestellt werden. Bitte aktiviere JavaScript in deinem Browser und lade die Seite neu.
Ein Kunstprojekt macht auf Vorurteile bei Künstlicher Intelligenz aufmerksam, indem es Bildern von Menschen Eigenschaften zuordnet.
Mit Werbeeinnahmen bezahlen wir unsere Redakteur:innen. Mit einem MIXED-Abo kannst Du unsere Seite werbefrei lesen.
Die Künstlerin Trevor Paglen und die KI-Forscherin Kate Crawford haben gemeinsam das Projekt „ImageNet Roulette“ erschaffen: Interessierte können auf einer Webseite ein Foto von sich hochladen. Anschließend wird es von einer KI analysiert und klassifiziert.
Im Hintergrund arbeitet eine mit dem ImageNet-Datensatz trainierte Bilderkennungs-KI. Dieser Datensatz enthält über 14 Millionen Bilder, die per Hand klassifiziert wurden: Katzen sind als Katzen markiert, Autos als Autos und so weiter. Insgesamt gibt es mehr als 20.000 Kategorien.
___STEADY_PAYWALL___
Uralte Kategorien führen zu rassistischen Ergebnissen
Von diesen 20.000 Kategorien sind 2.833 Unterkategorien der übergeordneten Klassifikation „Person“. Wie alle ImageNet-Kategorien wurden die Attribute von Lohnarbeitern über Amazons Mechanical Turk zusammengeklickt. Diese Arbeiter bekommen Bilder zu sehen und wählen aus vorher festgelegten Attributen das passende aus.
Die zur Auswahl bereitstehenden Attribute kommen vom WordNet-Datensatz, der seit den 1980ern eine komplette, hierarchische Übersicht über die englische Sprache geben will. WordNet ist daher eine Art Wörterbuch, in dem die Wörter nicht in alphabetischer Reihenfolge, sondern in Relation zu anderen Worten dargestellt wird. So taucht das Wort „Hund“ etwa unter „Hundeartigen“ auf und diese wiederum unter der Klasse „Säugetiere“.
Was bei Hunden und Bäumen unproblematisch ist, zeigt sich beim Menschen als Altlast: ImageNet erlaubte durch WordNet die Klassifikation von Menschen nach Hautfarbe, Nationalität, Beruf, Finanzkraft, Verhalten, Charakter oder sogar Moral. Je nach Bild kommt es bei Porträts so zu Einordnungen wie „Großvater“, „Chief Executive Officer“, „Pfeifenraucher“, „Gangmitglied“ oder auch „Waisenkind“.
Die durch WordNet bereitgestellte breite Auswahl an Zuschreibungen rächt sich: Die Vorurteile der Klickarbeiter finden sich versteckt im Datensatz und kommen durch das Kunstprojekt zu Tage.
Paglen und Crawford wollen mit ihrem Kunstprojekt zeigen, was passiert, wenn ein technisches System mit problematischen Daten trainiert wird. Gemeint ist damit: ImageNet erbt Kategorien vom über 30 Jahre alten WordNet-Datensatz und so führt die vermeintliche Neutralität eines Algorithmus in Wirklichkeit zur Verstärkung von in Datensätzen angelegten Vorurteilen.
Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.