Så ärver AI mänskliga fördomar
TREVOR PAGLEN. INSTALLATION VIEW, »FROM ›APPLE‹ TO ›ANOMALY‹« (PICTURES AND LABELS) – SELECTIONS FROM THE IMAGENET DATASET FOR OBJECT RECOGNITION, BARBICAN CENTRE – THE CURVE, LONDON (SEPTEMBER 2019–FEBRUARY 2020). COURTESY OF THE ARTIST, METRO PICTURES, NEW YORK, ALTMAN SIEGEL, SAN FRANCISCO PHOTO CREDIT: MAX COLSON
tankar om en bild
Sverigeaktuella Trevor Paglen undersöker hur artificiell intelligens ärver människans fördomar. Alexandra von Kern skriver om tänkbara konsekvenser när vi lär maskinerna att läsa bilder.
När konstnären Trevor Paglen betraktar tekniska system, gör han det ur perspektivet att de innehåller dolda världsbilder. I sina projekt använder han fotografi, video, datainsamling och olika mjukvaror för att se genom maskinernas ögon och visa de antaganden som lurar under ytan av det till synes matematiskt exakta och högteknologiska. På bilden syns ett utsnitt från hans installation From ›Apple‹ to ›Anomaly‹, som visades 2019 på The Curve Gallery i London. Den bestod av 30 000 bilder utskrivna från
ImageNet, den största databasen med kategorivis sorterade bilder som används för att träna AI-nätverk att se och tolka världen. Trots att bildväggen bara visar en bråkdel av databasens miljontals bilder, hämtade från sociala nätverk och fotoplattformar, är den massiv, som en karta över alla företeelser i världen. Men som i alla klassificerings projekt skapas ett »innanför« och ett »utanför«. Vems världsbild är det vi ser? Varför just dessa kategorier och bilder? På Wikipedia omdirigeras en
sökning på »brottsling« till »brott«. Därmed är en brottsling »en som begår brott« och ingenting annat. På ImageNet illustreras allt, utan hänsyn till filosofiska spörsmål som huruvida en människa kännetecknas av sina handlingar och uttryck – eller rätt och slätt kan beskrivas med samma språk som en telefonstolpe. Ett vanligt tema i film är en utomjording som lär sig allt om mänskligheten genom att snabbt skanna igenom hela internet. Nya generationer AI gör precis just det, trålar sociala plattformar och annat efter informa-
tion, texter och bilder, kategoriserar och imiterar. Men i Paglens scenario fångar de i stället upp våra fördomar och systematiserar dem, för att sedan projicera tillbaka dem på oss. När nu AI-system styr trafikkorsningar, kör självkörande bilar och övervakar grannskapet, och allt fler prylar och tjänster är uppkopplade, blir tanken att AI-systemen betraktar oss utifrån andra människors fördomar mycket obehaglig. Vi interagerar med systemen. De läser av våra ansikten och miner. Tänk att inte få jobbet som HR-chef bara fotografisk tidskrift
| 32
