Ein Kunstprojekt macht auf Vorurteile bei Künstlicher Intelligenz aufmerksam, indem es Bildern von Menschen Eigenschaften zuordnet.

Die Künstlerin Trevor Paglen und die KI-Forscherin Kate Crawford haben gemeinsam das Projekt “ImageNet Roulette” erschaffen: Interessierte können auf einer Webseite ein Foto von sich hochladen. Anschließend wird es von einer KI analysiert und klassifiziert.

Im Hintergrund arbeitet eine mit dem ImageNet-Datensatz trainierte Bilderkennungs-KI. Dieser Datensatz enthält über 14 Millionen Bilder, die per Hand klassifiziert wurden: Katzen sind als Katzen markiert, Autos als Autos und so weiter. Insgesamt gibt es mehr als 20.000 Kategorien.

Uralte Kategorien führen zu rassistischen Ergebnissen

Von diesen 20.000 Kategorien sind 2.833 Unterkategorien der übergeordneten Klassifikation “Person”. Wie alle ImageNet-Kategorien wurden die Attribute von Lohnarbeitern über Amazons Mechanical Turk zusammengeklickt. Diese Arbeiter bekommen Bilder zu sehen und wählen aus vorher festgelegten Attributen das passende aus.

Die zur Auswahl bereitstehenden Attribute kommen vom WordNet-Datensatz, der seit den 1980ern eine komplette, hierarchische Übersicht über die englische Sprache geben will. WordNet ist daher eine Art Wörterbuch, in dem die Wörter nicht in alphabetischer Reihenfolge, sondern in Relation zu anderen Worten dargestellt wird. So taucht das Wort ̶…

MIXED.de Podcast: VR, AR und KI - jede Woche neu

Jetzt reinhören: Alle Folgen


Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.