ImageNet Roulette

Curator’s Choice — ‹ImageNet Roulette› weist Porträts mittels künstlicher Intelligenz eine Charakterisierung zu. Nutzer/innen fiel bald auf, dass dunkelhäutige Menschen meist einfach als «black person» charakterisiert wurden oder negative Bezeichnungen erhielten, oder dass Frauen eher Stichworte zum Aussehen zugeordnet wurden. Die Arbeit zeigt die Vorurteile und Fehlinterpretationen bei KI-Bilderkennung am Beispiel von ImageNet, einer der meistgenutzten Datenbanken. Diese enstehen ja nicht «automatisch», vielmehr sind zunächst menschliche Mitarbeitende nötig, die Bilder (hier aus der Fotoplattform Flickr) verschlagworten. Einige Kunstschaffende haben in den letzten Jahren ähnliche Arbeiten gemacht. Doch ‹ImageNet Roulette› erreichte eine enorme virale Breitenwirkung und Presseresonanz – Trevor Paglen ist einer der wenigen Medienkünstler mit Starpower. ‹ImageNet› vermeldete, man sei ohnehin daran, die Datenbank zu überarbeiten. Paglen und Craw­ford stoppten die Online-Version der Arbeit, betonen jedoch, es reiche nicht, mehr Diversität in diese Datenbanken zu bringen. Vielmehr gehe es um eine grundsätzliche Kritik an der Idee der Kategorisierung von Menschen, die mittels Technologie als angeblich rational und neutral legitimiert wird. 

→ Digitales Projekt des Monats: Der Medien­kurator stellt ein Projekt seiner Wahl vor. ↗ https://imagenet-roulette.paglen.com