Techlash – digitale teknologier i modvind

rer blandt andre webdesignere, programmører, ingeniører, user experienceeksperter, forretningsudviklere, projektledere, produktansvarlige, mellemledere, ledere og direktører. Med andre ord: alle mennesker, som har et stort eller lille ansvar for, hvordan digitale produkter eller kommunikationsløsninger udformes, anvendes og implementeres.

Når du vender den sidste side i denne bog, skal du ikke forvente at sidde tilbage med alle svarene. Du får ikke en fiks og færdig manual for, hvordan man laver etiske digitale løsninger. Tværtimod planlægger jeg at trække dig ned i en forunderlig malstrøm, hvor alt kan ske, og hvor du kommer til at sidde tilbage med flere spørgsmål og mere tvivl. Og det er fordi, tvivlen og spørgsmålene er nøglen til den etiske verden. Vi er vant til at leve i en verden, hvor vi skal være sikre på os selv og ikke må fremstå tvivlsomme. Men det er kun gennem tvivl og evnen til at stille spørgsmål, at vi opdager, at vores digitale verden kan designes på mange forskellige måder – nogle mere etiske end andre.

Så hvorfor skal du læse denne bog? Du skal læse den for din egen skyld, fordi du måske allerede har hørt den lille etiske alarmklokke ringe. Men du skal også læse den, fordi du og jeg og alle os, der arbejder i den digitale branche, har et ansvar for at rydde op i en digital verden, som er løbet fuldstændigt af sporet.

TECHLASH – DIGITALE TEKNOLOGIER I MODVIND

Da internettet i løbet af 1990’erne slap ud af amerikanske forskningsuniversiteter og blev tilgængeligt for almindelige mennesker, var der ingen ende på de optimistiske drømme om den digitale verdens lyksaligheder. Internettet skulle være det nye forum for frie demokratiske samtaler. Internettets decentrale struktur ville nærmest som en naturlov omstyrte konservative og diktatoriske regimer. Forbrugere ville få ny magt over virksomheder, som ville være nødt til at underkaste sig den nye stærke og digitale kunde. Mennesker ville blive frigjorte, normer ville blive nedbrudt, fordomme ville forsvinde og honning og mælk ville flyde i internettets optiske fibre.

Men den digitale verden blev ikke det forjættede land, vi drømte om. De frie demokratiske samtaler udviklede sig til ideologiske skyttegravskrige.

De autokratiske regimer vendte internettet på hovedet og udviklede teknologiske overvågningssystemer af orwellske dimensioner. Forbrugerne blev forvandlet til hjælpeløse ofre for massiv dataindsamling og algoritmisk profilering. Og i stedet for frigørelse fik vi influencere, der bogstaveligt talt danser til de kunstige intelligensers krav om mere skønhed, vildere stunts, og flere – altid flere – likes!

Selvfølgelig nyder vi godt af digitale teknologier, når vi benytter services som Wikipedia, Google Maps og MobilePay, men her 25 år efter internettets fremkomst er vi vågnet op til en verden, hvor internettet og digitale teknologier viste sig at have alvorlige skyggesider. I to årtier har vi levet i en boble af ubetinget teknologioptimisme, hvor begreber som digitalisering, innovation og disruption har fyldt i politikernes festtaler. Nu befinder vi os i midten af det såkaldte techlash – en teknologisk modbølge, hvor politikere, erhvervsfolk, samfundsdebattører og erhvervsfolk i stigende grad begynder at stille spørgsmål ved den digitale verdens lyksaligheder. I EU kæmper Margrethe Vestager som konkurrencekommissær mod de store teknologivirksomheders konkurrenceforvridende algoritmer. I Danmark har statsministeren, kulturministeren og erhvervsministeren blæst til kamp mod teknologigiganternes uforbeholdne magt. Brancheorganisationer som DJØF, IDA, DI og Dansk Erhverv nedsætter kommissioner og arbejdsgrupper, der laver konferencer og hvidbøger om kunstige intelligenser og digitale teknologiers udfordring af samfund, arbejdsliv og privatliv. Og endelig ser vi, hvordan store virksomheder og konsulenthuse begynder at forfatte etiske retningslinjer for, hvordan virksomheder bør forholde sig til de digitale teknologiers mørke sider.

Kampen for at bringe den digitale verden tilbage på rette spor bliver kæmpet på mange planer.

For det første er der kampen, som handler om regulering af teknologi. Her har EU været særdeles aktiv, og særligt General Data Protection Regulation (GDPR), som regulerer brugen af data, har været effektiv i forhold til at ændre virksomheders brug og misbrug af data i Europa, men også i resten af verden.

For det andet er der kampen, som handler om konkurrencelovgivning. Så længe vi lever i en verden med helt fri konkurrence, kan forbrugerne

altid vælge de mest etiske og ansvarlige teknologivirksomheder. Men hvis der kun findes ét socialt netværk, én videodelingsservice eller én e-handelsplatform, er vi ikke længere i stand til at vælge de rådne æbler fra, når vi bevæger os ud i den digitale verden. Også på dette område har EU-Kommissionen været aktivistisk, mens særligt USA har været fodslæbende, når det handler om reguleringen af teknologimonopoler. Interessant nok har Kina – på sin helt egen og autokratiske facon – også slået hårdt ned på magtfulde kinesiske teknologimonopoler de seneste år.

For det tredje er der kampen, som handler om samfundsmæssige og faglige normer for, hvordan vi arbejder og lever med digitale teknologier. Det er en handske, som så småt er blevet samlet op af faglige organisationer, meningsdannere og større virksomheder, som i almindelig bred demokratisk forvirring forsøger at tale sig frem til en eller anden form for konsensus. Jeg har eksempelvis selv været involveret i udviklingen og udbredelsen af Techløftet, som er et forsøg på at formulere 12 etiske retningslinjer for mennesker og virksomheder, der arbejder med digitale teknologier (www.techpledge.org). Techløftet udspringer af den danske konference Techfestival, som er en af de få teknologikonferencer i verden, som ikke bare hylder de digitale teknologier, men netop sætter fokus på teknologiernes etiske dilemmaer.

For det fjerde er der kampen, som handler om alle os, der i det daglige arbejder med at udvikle, designe og implementere digitale teknologier. Det er en kamp, som sigter på at ændre vores daglige praksis, vores sprog, vores rutiner og vores processer for, hvordan vi designer digitale produkter og kommunikation. Det er en kamp, som stræber efter at få digitale designere til at forstå, at alle digitale løsninger starter med et valg – et etisk valg.

Denne bog handler om denne fjerde kamp. Ikke fordi de tre andre kampe er mindre vigtige, men fordi der er et akut behov for etisk førstehjælp til alle os, der arbejder i den digitale verden. Jeg arbejdede selv i 20 år i lykkelig uvidenhed om etiske spørgsmål. Den dag et klart og tydeligt digitalt etisk problem bankede på døren, manglede jeg sproget og redskaberne til at kunne stille de rette spørgsmål.

Jeg har nu i to år arbejdet med og holdt foredrag om etik, teknologi og design. Det er mit klare indtryk, at jeg ikke er unik. Overalt i den digitale

branche møder jeg mennesker, som har forstået, at den digitale verden er løbet af sporet, men de mangler et sprog for at kunne tale om det. De er i tvivl om deres egen rolle, de ved ikke, hvordan de kan gøre en forskel, og de er i tvivl om, hvorvidt de overhovedet har et ansvar.

Lad os starte med at slå fast, at du har et ansvar! Alle uetiske digitale løsninger starter med en uetisk designbeslutning truffet af et rigtigt levende menneske, som kunne have truffet en mere etisk beslutning. Problemet er bare, at vi ikke altid er opmærksomme på, at vores designbeslutninger indebærer et etisk valg. Måske stirrer vi os blinde på at løse et helt specifikt problem og skaber i stedet ti nye problemer. Måske forestiller vi os en helt særlig brug af vores løsning og glemmer, at der kan være andre – måske endda ondsindede – måder at bruge vores løsning på. Eller måske er vi så forhippede på at tjene penge eller udvide vores markedsandele, at alle andre hensyn – deriblandt de etiske – bliver sat ud af spillet.

Da programmører og designere hos Amazon udviklede en ny ansættelsesalgoritme til at sortere deres mange tusinde ansøgninger, forsøgte de at løse et problem, der handlede om at spare enorme mængder af tid i ansættelsesprocessen. Problemet var bare, at de fik designet en algoritme, som frasorterede kvinders ansøgninger og på den måde blev direkte kønsdiskriminerende. De havde løst ét problem, men skabt et andet, fordi de havde stirret sig blinde på løsningen af det snævre problem, som handlede om at spare tid.2

Hvis du anvender Netflix, har du sikkert bemærket, at tv-serier afsluttes med et nedtællingsur, som giver dig cirka 10 sekunder, før den næste episode starter automatisk. Det er en funktion, som egentlig ikke bidrager med nogen nytte for brugerne af Netflix, tværtimod lokker det til binging og helt overdrevet forbrug af tv-serier. Funktionen kaldes autoplay og blev designet, fordi udviklerne og designerne hos Netflix udelukkende havde to succeskriterier: at fastholde brugerne som kunder og få dem til at konsumere så mange timers underholdning som overhovedet muligt. Da man testede autoplay, afprøvede man nedtælling på 5, 10 og 15 sekunder. Det viste sig, at 10 sekunders nedtælling var langt det mest effektive i forhold til de to succeskriterier. Beslutningen om at designe autoplay-funktionen blev altså truffet uden de store etiske overvejelser. Man testede bare forskellige design