Digital etik

DIGITAL ETIK peter svarre

DIGITAL ETIK

PETER SVARRE

DIGITAL ETIK

Hvordan designer vi en mere ansvarlig digital verden?

Digital etik. Hvordan designer vi en mere ansvarlig digital verden?

Peter Svarre

© 2022 Akademisk Forlag, København – et forlag under Lindhardt og Ringhof Forlag A/S, et selskab i Egmont

Denne bog er beskyttet i henhold til gældende dansk lov om ophavsret. Kopiering må kun ske i overensstemmelse med loven. Det betyder for eksempel, at kopiering til undervisningsbrug kun må ske efter aftale med Copydan Tekst og Node, se: www.tekstognode.dk/undervisning.

Forlagsredaktion: Sidsel Fabech Omslag: Rasmus Funder Sats: Demuth Grafisk Bogen er sat med: Lava og Mark Pro Illustrationer: Jakob Brandt-Pedersen Tryk: ScandinavianBook

1. udgave, 1. oplag, 2022 ISBN: 978-87-500-6110-6 akademisk.dk

Akademisk Forlag støtter børn og unge Akademisk Forlag er en del af Egmont, der som Danmarks største mediekoncern har bragt historier til live i mere end 100 år. Egmont er en dansk fond, som hvert år uddeler næsten 150 millioner kroner til børn og unge, der har det svært.

Forord ..................................................... 9

Del 1: Hvad er digital designetik? .............................. 15

1. Det etiske kaninhul ...................................... 19

Tvivlen meldte sig ........................................ 21 Techlash – digitale teknologier i modvind..................... 23 Bogens opbygning. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27

2. Gamle mænd i hvide togaer ............................... 31

Natklubsetik ............................................ 32

Dydsetik, pligtetik og konsekvensetik ........................ 34

Sporvognsdilemmaet ..................................... 36

Få etikken ind i dit liv ..................................... 39

3.

Det er ikke geværet der dræber ............................ 45

Det uetiske gevær ........................................ 49 Det etiske gevær ......................................... 50

Etisk design af produkter .................................. 52

Etisk ansvar ............................................. 56

Ingen entydige svar ...................................... 58

Vi kender ikke konsekvenserne af vores designbeslutninger ...... 58

4.

Etikken i interfacet ...................................... 63

Design på godt og ondt .................................... 66

Det overvågede menneske ................................. 67

Det producerende menneske ............................... 70

Det forbrugende menneske ................................ 72

Det unikke menneske ..................................... 74

Designetik i en digital tidsalder ............................. 80

Etisk design handler også om at stille krav til leverandører –interview med Holo ..................................... 174

Hvordan man arbejder med Etikkompasset – interview med Charlie Tango .......................................... 179

Del 3: Hvordan bliver etik organisatorisk og finansielt bæredygtig? 185

10. Den etiske organisation ................................. 189

Hvordan får man etikken til at slå rødder? ................... 190

Den værst tænkelige organisation – en provokatype ........... 191

Hvad kendetegner den etiske organisation? .................. 193 Øer af etik ............................................. 195 Fremtidens virksomhed er etisk – interview med 1508 ......... 202

11. The business of business is not just business ................ 209 Man laver bedre produkter ................................ 210 Man undgår shitstorms .................................. 211 Man tiltrækker gode medarbejdere ......................... 211 Investorerne elsker det ................................... 212 Memoet til chefen ....................................... 213

Fremtidens disruptors er etiske – en samtale med Jacob Fruensgaard Øe .................................... 215

12. Sæt mennesket i centrum ................................ 223

Vi lever i dystopiernes tidsalder ............................ 227 There is a crack in everything; that is how the light gets in ...... 229

Litteratur og anden inspiration .............................. 231

på nettet

Noter .................................................... 235

FORORD

Christian Bason, CEO, Dansk Design Center

For et par år siden udforskede vi i Dansk Design Center designerens rolle i fremtiden. Vi samlede en gruppe af eksperter og repræsentanter for design branchen og præsenterede dem for radikalt forskellige bud på, hvordan fremtiden kunne blive i år 2050. Kommer vi til at leve i en verden præget af højteknologi og vild markedsøkonomi? Eller kommer vi til at leve i en verden, hvor miljømæssige, sociale og menneskelige værdier kommer først, og hvor vi dyrker nærmiljøet og naturen i små fællesskaber?

I alt udforskede vi fire markante bud på fremtider, som kunne blive til virkelighed. Dernæst spurgte vi: Hvad bliver designerens rolle? Hvordan kommer mennesker til at arbejde med skabelsen af nye produkter, tjenester, forretningsmodeller og systemer? Der kom mange forskellige svar, alt efter hvilket fremtidsscenarie der var tale om. Designere kunne indtage mange forskellige positioner, roller og skikkelser – afhængig af konteksten.

Men en enkelt ting gik igen, uanset scenarie: designeren som etikkens håndhæver. Ligegyldigt, hvilken verden vi ville komme til at leve i, vurdere de gruppen af eksperter og beslutningstagere, at etik ville blive et ufravige ligt omdrejningspunkt for fremtidens skabende og kreative professionelle.

Det er derfor, den bog du nu holder i hånden – eller lytter til – er så vigtig. For det er umuligt at forestille sig en fremtid, hvor evnen til at forstå og håndtere etiske dilemmaer ikke bliver endnu vigtigere end i dag. Det

gælder designere, men det gælder også teknologer, ingeniører, innovatører og de beslutningstagere i virksomheder og i den offentlige sektor, som afgør, hvilke produkter og tjenester der skal udvikles – og hvilke der ikke skal. Netop derfor har vi brug for at blive klogere på etik. Vi har brug for at blive klogere på, hvordan det er muligt at handle ansvarligt i en verden, som bliver mindre og mindre gennemsigtig ikke alene for almindelige menne sker, men også for dem hvis beslutninger har stor rækkevidde og betydning for andre.

Etik handler nemlig om de valg, vi træffer. Om at gøre noget ikke blot fordi man kan, men fordi man bevidst og reflekteret siger, ”dette er det rig tige at gøre”. Men hvordan kan vi sikre, at ledere, udviklingsfolk og desig nere gør ”det rigtige”? Ud fra hvilke standarder og værdier skal det opgøres?

I en tid præget af hastig teknologisk udvikling bliver vi som mennesker, som forbrugere og som borgere i stigende grad stillet over for muligheder, vi ikke kan gennemskue konsekvenserne af. Kunstig intelligens og maskin læring er efterhånden en integreret del af de apps, vi bruger, og de produk ter, vi køber – højttalere, fjernsyn, digitale assistenter som SIRI, Google og Alexa, osv. Hvis jeg er forbruger og anvender denne app, hvem får så adgang til mine data? Hvis jeg er læge og et stykke software giver mig forslag til beslutninger for mine patienter, hvordan genereres de forslag så? Hvis jeg er leder og skal markedsføre et intelligent produkt, hvorfra ved jeg så, at det ikke gør mere skade end gavn for de kunder, som anvender det?

Samtidig er der stigende fokus på bæredygtighed – miljømæssigt, socialt, økonomisk, menneskeligt. Bæredygtighed er dybest set en etisk for dring. For det forudsætter handlinger, der sætter et positivt aftryk for men nesker, samfundet og planeten. Men bæredygtig handling er også fuld af dilemmaer og modsætninger, som man må navigere i. Skal man køre i en elbil, selv om batteriet er fremstillet under kritisable forhold for arbejdstagerne? Skal man deltage i et møde om klimapolitik, selv om det kræver at man flyver dertil? Skal man tage toget i stedet, men så miste to ekstra dages samvær med sin familie?

Hvad der er rigtigt og forkert kommer til at handle om værdier – per sonlige værdier, ja, men også organisationers værdier, og måske endda

samfundets værdier. Det betyder at dem, der skaber de nye løsninger – alle dem, der engagerer sig i designprocesser – skal være i stand til at reflektere og bedømme rækkevidden og konsekvenserne af deres beslutninger på langt flere parametre end tidligere. Fra en verden, hvor det kun var tekno logisk formåen og økonomiske parametre, der satte begrænsningerne, bli ver vi nu nødt til at opstille andre rammer. Vi bliver nødt til at bringe vores værdier i spil og favne tvivl, usikkerhed og sårbarhed. Kun derved kan vi stille de vanskelige spørgsmål, som er forudsætningen for mere etisk hand ling. Man kan kun gøre det rigtige, hvis man samtidig ved, hvad der ville være forkert.

Regeringer og erhvervsledere verden over har erkendt, at bæredygtighed –og dens nære kusine, ansvarlighed – er kommet for at blive. Nye regulerin ger, rapporteringskrav og mærkningsordninger er blevet dagens orden, ikke alene inden for miljø og klima, men også inden for sociale forhold. CSR – virksomhedens sociale ansvar – er i mange virksomheder gået fra at være et vedhæng til forretningen til en afgørende strategisk ressource. ESG (En vironmental, Social, Governance) er blevet en forståelsesramme – ikke kun for ansvarlige investeringer, men for den måde, en virksomhed i det hele taget skal opføre sig på. Impact – eller på dansk aftryk – er et begreb, som rækker endnu videre og rejser spørgsmålet: Giver denne virksomhed mere til verden, end den tager?

Endemålet må nødvendigvis være, at private virksomheders grundfor mål ikke længere alene er at tjene penge, men at skabe positiv værdi for mennesker, samfund og natur – og derigennem skabe en rentabel forret ning. Som ex-Unilever CEO Paul Polman skriver i bogen Net Positive (2021) bliver en virksomheds økonomi et resultat af dens adfærd – ikke målet i sig selv. I min egen nye bog, Expand: Stretching the Future by Design (2022), skriver jeg sammen med Jens Martin Skibsted, at etisk handling er at tilføre værdi til verden. Mere etisk handling er at skabe mere værdi – og det gælder ikke kun individer, men også virksomheder og organisationer.

Med det udgangspunkt virker det klart, at fremtidens økonomi må blive etisk. Det må blive en økonomi, hvor forretningsmæssige resultater drives af det aftryk, man sætter på verden – af etisk handling. Det vil være en øko

nomi, hvor etik er blevet et afgørende konkurrenceparameter. Givet de ac celererende klimamæssige og sociale udfordringer, vi står over for, er omstillingen til en sådan etisk økonomi noget, der i den grad haster. Samtidig er der et potentiale for en lille åben økonomi som Danmark, hvor vi gennem mere end et halvt århundrede har vist, at vi kan skabe forretning på en måde, der balancerer med menneskers velfærd og samfundets behov. Tiden er kommet til at tage den model et skridt videre.

Hvordan omsætter man fine etiske principper til konkrete handlinger? Sammen med denne bogs forfatter tog vi for nylig den udfordring op i Dansk Design Center og gennemførte i samarbejde med Industriens Fond projektet Det Digitale Etikkompas. Tankegangen var som følger: Kan etik, særligt i skabelsen af digitale produkter, blive et konkurrenceparameter for danske virksomheder?

Vi involverede en håndfuld designbureauer og virksomheder – fra store koncerner som Danske Bank og Roche til startups som Corti og Holo –sammen med førende eksperter inden for etik, teknologi, kunstig intelli gens, design og produktudvikling. Over et års tid byggede vi en helt ny ressource, Det Digitale Etikkompas, som er et værktøj, der kan bruges af designere, udviklere og beslutningstagere til at afgøre, om en digital løsning er etisk: Sætter løsningen reelt mennesker i centrum, eller bliver mennesket styret af teknologien? Manipulerer produktet brugeren til at gøre noget, der ikke er i vedkommendes interesse? Bliver kundens data misbrugt? Er det gennemskueligt, hvordan teknologien påvirker os? Eller skaber løsningen utilsigtet ulighed i vores samfund?

Vi lærte meget af projektet. Det viste blandt andet, at de færreste virk somheder har et fælles sprog for etik. Vi kunne også konstatere, at budska bet om etiske digitale produkter ikke nødvendigvis kun er positivt. At for tælle, at man nu arbejder med etik, kan svare til at indrømme, at man som virksomhed har et problem på området. Kunderne kunne med rimelighed spørge: Har I da ikke altid ageret etisk? Vi så også, at digital etik ofte redu ceres til et spørgsmål om for eksempel GDPR-efterlevelse. Men digital etik er meget mere end det – temaerne omfatter algoritmer, automatisering, gennemskuelighed, manipulation af brugerne, adfærdsdesign osv.

Hvad der også stod klart efter projektet var, at der tegner sig et globalt mar ked for mere etiske digitale produkter og tjenester – og at det er et marked, vi i Danmark har forudsætningerne for at være med til at forme. Det vel færdssamfund, vi har skabt, bygger nemlig på et design-DNA, som gennem syrer både private og offentlige løsninger. Vi har en tradition for at tænke socialt, ansvarligt og menneskeligt i den måde, vi designer på. Det har ikke kun givet sig udtryk i de møbelklassikere af høj æstetisk og håndværksmæssig kvalitet, som i dag er allemandseje blandt danskerne, fordi designerne insisterede på at de skulle kunne produceres til en pris, almindelige menne sker kunne betale. Det har også givet sig udtryk i den omhu, hvormed vi har skabt for eksempel smukke og funktionelle bygninger og rum, der danner rammerne for vores skoler, vores hospitaler og offentlige bygninger. Det er det design-DNA, vi nu skal opdatere til en digital virkelighed, hvor vores maskiner i stigende grad kan tænke selv, og hvor metaverset venter rundt om hjørnet.

Vi skal gøre etik til et designmateriale på linje med bæredygtige materi aler i den fysiske verden og brugervenlighed i den digitale.

Jeg håber, at denne bog vil fremme mere etisk digitalisering. Vi har et fælles ansvar for, at det er os mennesker, der styrer teknologien og ikke omvendt. Med digital etik kan vi forme en verden, vi også ønsker at leve i – langt ind i fremtiden.

Del 1

Hvad er digital designetik?

DET ETISKE KANINHUL

Det var en ganske almindelig dag i foråret 2017, som for bestandigt ændrede mit syn på mit arbejde. Jeg havde i 20 år arbejdet med digital kommunika tion, strategi og produktudvikling og havde i den tid været rådgiver for virksomheder som Danske Bank, Nike, Novo Nordisk og Carlsberg. Jeg havde været med til at designe alt fra online fællesskaber for diabetespatienter til globale marketingsider, som solgte fodboldsko til unge drenge. Som brugervenlighedsekspert og digital strateg havde jeg haft ansvaret for designet og konceptualiseringen af hundredvis af digitale løsninger, som sandsynligvis havde haft betydning for millioner af menneskers liv, arbejde og dagligdag. På trods af det havde jeg dog aldrig gjort mig de store tanker om de etiske konsekvenser af mit arbejde. Mit arbejde handlede om at de signe smukke, relevante, brugbare og profitable digitale løsninger. Mit ar bejde handlede ikke om at skabe en bedre verden. Den slags var forbeholdt filosoffer, humanister og andre ngo-typer, som var sat i verden for at tænke dybe tanker om verden.

Lige indtil den dag i foråret 2017. På det tidspunkt arbejdede jeg som konsulent for en lille startupvirksomhed, som havde haft en kortvarig, men eksplosiv succes med en app, som hjalp kvinder med at føle sig trygge, når de gik hjem fra byen om aftenen. Appen trackede kvindernes fysiske lokati

on, så en udvalgt ven eller et familiemedlem kunne følge hendes færden på et kort og få en alarm, hvis der opstod et problem på vejen.

De danske medier elskede historien om appen, der med moderne GPS-teknologi kunne hjælpe kvinder med at føle sig trygge, og startupvirk somheden havde hurtigt tusindvis af downloads.

Desværre viste det sig, at kvinderne glemte at bruge appen, når de først havde downloadet den. Måske fordi det alligevel ikke gav så meget tryghed, at en bekendt sad flere kilometer væk og passivt fulgte med i kvindens gøren og laden. Måske fordi det var en smule grænseoverskridende at lade andre mennesker følge ens præcise fysiske lokation – særligt når man var en ung teenagepige, der var på vej hjem fra byen.

Som så mange andre startups var virksomheden løbet ind i en mur. Det var tid til at pivotere. Et begreb, der i startupverdenen anvendes, når det digitale produkt ikke lige fanger an hos målgruppen, og man er nødt til at finde en ny forretningsmodel og en ny målgruppe.

Startupvirksomheden var virkelig dygtig til at arbejde med GPS-tekno logier og havde gode forbindelser til forsikringsselskaber. Vi brainstormede derfor på idéer, der involverede GPS-tracking, kortvisning og mobilitet. Efter lang tids overvejelse landede vi på et koncept, som passede perfekt til startuppens kompetencer og forsikringsbranchens behov. Idéen var allere de implementeret på det amerikanske marked, hvilket altid er et godt tegn på, at der er penge i idéen.

Konceptet kaldes i USA for usage based insurance. Det er en særlig type bilforsikring, hvor man ved hjælp af en mobiltelefon eller en lille enhed, som installeres i bilen, kan tracke bilistens kørsel. Ved hjælp af en snedig algoritme regner man så ud, om bilisten er dygtig eller en klodset amatør, som bremser på underlige tidspunkter, accelererer unormalt eller på anden vis udviser afvigende køreegenskaber.

Forsikringsselskaber forsøger allerede i dag at regne ud, om vi er gode eller dårlige bilister, men deres metoder er ret primitive. For eksempel gæt ter de på, at unge mennesker er dårligere bilister, og tvinger derfor dygtige unge bilister til at betale alt for høje forsikringspræmier. Eller de gætter på, at folk, som har været involveret i et biluheld, er dårligere til at køre bil end

folk, som har kørt skadefrit hele deres liv – også selvom biluheldet måske var helt uforskyldt.

Der er med andre ord brug for mere retfærdighed inden for bilforsikrin ger, og hvad kan være mere retfærdigt end at opkræve højere bilforsikringer af dokumenterbart dårlige bilister og give rabatter til de gode? Vores idé var et perfekt match mellem startuppens teknologiske evner og forsikrings branchens behov, og så var den ovenikøbet mere retfærdig end gamle primitive bilforsikringer.

Eller var den? Et eller andet sted dybt nede i et støvet og ubrugt område af min hjerne var der en lille alarmklokke, der begyndte at ringe. Den var ikke nem at høre, og det var svært at sætte præcise ord på, hvorfor den rin gede, men af min hjernes mørke dyb flød et begreb op til overfladen: det kategoriske imperativ. Begrebet stammede fra et for længst glemt kursus i etik og filosofi, som jeg havde fulgt på overbygningen af min uddannelse i statskundskab. Det var på et tidspunkt i mit liv, hvor jeg endnu ikke havde hørt om internettet.

Det kategoriske imperativ stammer fra den tyske filosof Immanuel Kant og er med moderne ord en guideline for, hvordan man som menneske bør agere. I al sin enkelhed siger det, at man altid bør handle sådan, at ens handlinger kan gøres til universelle regler. Med andre ord: Hver gang vi handler i verden, bør vi tænke lidt ud i fremtiden og forestille os en verden, hvor alle handler på samme måde. Er det en god verden? Hvis svaret er nej, er det nok ikke den rette handling.1

TVIVLEN MELDTE SIG

Da jeg på ny kiggede på usage based insurance, nu med Kants øjne, begynd te tvivlen at melde sig. Det lød jo meget fint, at dygtige bilister fik billigere bilforsikringer, men hvad med de dårlige bilister? De ville jo få dyrere for sikringer, og nogle bilister ville måske være så dårlige, at de helt ville blive afvist af forsikringsselskaberne. Ville det være retfærdigt? Ville det være en god verden? Og så begyndte mine tanker at løbe endnu længere ud i frem tiden. Hvad nu hvis alle forsikringer fungerede på denne måde? Hvad nu hvis forsikringsselskaber overvågede alle vores handlinger og kunne udvik

le præcise personaliserede forsikringer, hvor højrisikoborgere betalte sky høje præmier, og regelrette bedsteborgere betalte bittesmå præmier? Ville det være retfærdigt? Ville det faktisk ikke ødelægge hele konceptet i forsik ring, hvor det er den kollektive aggregering af risiko, som beskytter den enkelte? Og hvad med alle de data, som forsikringsselskaberne ville være nødt til at indsamle? Ville vi kunne stole på, at de kun blev brugt til kunder nes bedste? Og endelig var der naturligvis spørgsmålet om, hvorvidt den snedige algoritme overhovedet var så snedig. Hvor ofte tog den fejl? Hvor ofte ville superdygtige bilister blive kategoriseret som dårlige bilister? Og havde vi overhovedet nogen garanti for, at der var en sammenhæng mellem de køreegenskaber, vi kunne tracke, og risikoen for fremtidige skader?

Det kategoriske imperativ åbnede et kaninhul af etiske overvejelser, som trak mig ned i en kæde af tanker. I sidste ende resulterede de i, at vi ikke gik videre med projektet. I stedet begyndte jeg at interessere mig for de etiske konsekvenser af digitalt design, hvilket er årsagen til, at du lige nu sidder med denne bog i hånden.

Jeg opdagede nemlig, at jeg på trods af 20 års erfaring simpelthen ikke havde et sprog og et begrebsapparat for at tænke over, om mine digitale design og koncepter gjorde skade eller gavn i verden. Jeg var virkelig god til at lave brugervenlige digitale løsninger, men det var begyndt at gå op for mig, at digitale løsninger sagtens kan være brugervenlige og samtidig gøre skade på de selvsamme brugere, deres familier, deres venner eller på men nesker, der slet ikke bruger løsningen, eller endda på samfundets instituti oner i bred forstand.

Men ikke alene manglede jeg et sprog. Jeg manglede også steder at gå hen med min tvivl og mine overvejelser. Jurister og læger har faglige orga nisationer med etiske organer og retningslinjer, men vi, der arbejder med digitalt design, digital kommunikation og digital produktudvikling, har ikke faglige organisationer eller etiske kodekser, vi kan anvende, når vi står over for etiske dilemmaer i vores daglige arbejde.

Denne bog er et forsøg på at give os, der arbejder med digitalt design, et sprog og nogle retningslinjer for, hvordan man agerer ansvarligt og etisk i en mere og mere kompleks teknologisk verden.

At arbejde med digitalt design skal her forstås meget bredt og inklude

rer blandt andre webdesignere, programmører, ingeniører, user experienceeksperter, forretningsudviklere, projektledere, produktansvarlige, mellemledere, ledere og direktører. Med andre ord: alle mennesker, som har et stort eller lille ansvar for, hvordan digitale produkter eller kommunikati onsløsninger udformes, anvendes og implementeres.

Når du vender den sidste side i denne bog, skal du ikke forvente at sidde tilbage med alle svarene. Du får ikke en fiks og færdig manual for, hvordan man laver etiske digitale løsninger. Tværtimod planlægger jeg at trække dig ned i en forunderlig malstrøm, hvor alt kan ske, og hvor du kommer til at sidde tilbage med flere spørgsmål og mere tvivl. Og det er fordi, tvivlen og spørgsmålene er nøglen til den etiske verden. Vi er vant til at leve i en ver den, hvor vi skal være sikre på os selv og ikke må fremstå tvivlsomme. Men det er kun gennem tvivl og evnen til at stille spørgsmål, at vi opdager, at vores digitale verden kan designes på mange forskellige måder – nogle mere etiske end andre.

Så hvorfor skal du læse denne bog? Du skal læse den for din egen skyld, fordi du måske allerede har hørt den lille etiske alarmklokke ringe. Men du skal også læse den, fordi du og jeg og alle os, der arbejder i den digitale branche, har et ansvar for at rydde op i en digital verden, som er løbet fuldstændigt af sporet.

TECHLASH – DIGITALE TEKNOLOGIER I MODVIND

Da internettet i løbet af 1990’erne slap ud af amerikanske forskningsuniver siteter og blev tilgængeligt for almindelige mennesker, var der ingen ende på de optimistiske drømme om den digitale verdens lyksaligheder. Internettet skulle være det nye forum for frie demokratiske samtaler. Internet tets decentrale struktur ville nærmest som en naturlov omstyrte konserva tive og diktatoriske regimer. Forbrugere ville få ny magt over virksomheder, som ville være nødt til at underkaste sig den nye stærke og digitale kunde. Mennesker ville blive frigjorte, normer ville blive nedbrudt, fordomme ville forsvinde og honning og mælk ville flyde i internettets optiske fibre.

Men den digitale verden blev ikke det forjættede land, vi drømte om. De frie demokratiske samtaler udviklede sig til ideologiske skyttegravskrige.

De autokratiske regimer vendte internettet på hovedet og udviklede tekno logiske overvågningssystemer af orwellske dimensioner. Forbrugerne blev forvandlet til hjælpeløse ofre for massiv dataindsamling og algoritmisk pro filering. Og i stedet for frigørelse fik vi influencere, der bogstaveligt talt danser til de kunstige intelligensers krav om mere skønhed, vildere stunts, og flere – altid flere – likes!

Selvfølgelig nyder vi godt af digitale teknologier, når vi benytter services som Wikipedia, Google Maps og MobilePay, men her 25 år efter internettets fremkomst er vi vågnet op til en verden, hvor internettet og digitale tekno logier viste sig at have alvorlige skyggesider. I to årtier har vi levet i en boble af ubetinget teknologioptimisme, hvor begreber som digitalisering, innova tion og disruption har fyldt i politikernes festtaler. Nu befinder vi os i midten af det såkaldte techlash – en teknologisk modbølge, hvor politikere, erhvervsfolk, samfundsdebattører og erhvervsfolk i stigende grad begynder at stille spørgsmål ved den digitale verdens lyksaligheder. I EU kæmper Margrethe Vestager som konkurrencekommissær mod de store teknologi virksomheders konkurrenceforvridende algoritmer. I Danmark har stats ministeren, kulturministeren og erhvervsministeren blæst til kamp mod teknologigiganternes uforbeholdne magt. Brancheorganisationer som DJØF, IDA, DI og Dansk Erhverv nedsætter kommissioner og arbejdsgrup per, der laver konferencer og hvidbøger om kunstige intelligenser og digita le teknologiers udfordring af samfund, arbejdsliv og privatliv. Og endelig ser vi, hvordan store virksomheder og konsulenthuse begynder at forfatte etiske retningslinjer for, hvordan virksomheder bør forholde sig til de digitale teknologiers mørke sider.

Kampen for at bringe den digitale verden tilbage på rette spor bliver kæmpet på mange planer.

For det første er der kampen, som handler om regulering af teknologi. Her har EU været særdeles aktiv, og særligt General Data Protection Regulation (GDPR), som regulerer brugen af data, har været effektiv i forhold til at ændre virksomheders brug og misbrug af data i Europa, men også i re sten af verden.

For det andet er der kampen, som handler om konkurrencelovgivning. Så længe vi lever i en verden med helt fri konkurrence, kan forbrugerne

altid vælge de mest etiske og ansvarlige teknologivirksomheder. Men hvis der kun findes ét socialt netværk, én videodelingsservice eller én e-handelsplatform, er vi ikke længere i stand til at vælge de rådne æbler fra, når vi bevæger os ud i den digitale verden. Også på dette område har EU-Kommis sionen været aktivistisk, mens særligt USA har været fodslæbende, når det handler om reguleringen af teknologimonopoler. Interessant nok har Kina – på sin helt egen og autokratiske facon – også slået hårdt ned på magtfulde kinesiske teknologimonopoler de seneste år.

For det tredje er der kampen, som handler om samfundsmæssige og faglige normer for, hvordan vi arbejder og lever med digitale teknologier. Det er en handske, som så småt er blevet samlet op af faglige organisationer, meningsdannere og større virksomheder, som i almindelig bred demokratisk forvirring forsøger at tale sig frem til en eller anden form for konsensus. Jeg har eksempelvis selv været involveret i udviklingen og udbredelsen af Techløftet, som er et forsøg på at formulere 12 etiske retningslinjer for men nesker og virksomheder, der arbejder med digitale teknologier (www.te chpledge.org). Techløftet udspringer af den danske konference Techfestival, som er en af de få teknologikonferencer i verden, som ikke bare hylder de digitale teknologier, men netop sætter fokus på teknologiernes etiske dilemmaer.

For det fjerde er der kampen, som handler om alle os, der i det daglige arbejder med at udvikle, designe og implementere digitale teknologier. Det er en kamp, som sigter på at ændre vores daglige praksis, vores sprog, vores rutiner og vores processer for, hvordan vi designer digitale produkter og kommunikation. Det er en kamp, som stræber efter at få digitale designere til at forstå, at alle digitale løsninger starter med et valg – et etisk valg.

Denne bog handler om denne fjerde kamp. Ikke fordi de tre andre kampe er mindre vigtige, men fordi der er et akut behov for etisk førstehjælp til alle os, der arbejder i den digitale verden. Jeg arbejdede selv i 20 år i lykkelig uvidenhed om etiske spørgsmål. Den dag et klart og tydeligt digitalt etisk problem bankede på døren, manglede jeg sproget og redskaberne til at kunne stille de rette spørgsmål.

Jeg har nu i to år arbejdet med og holdt foredrag om etik, teknologi og design. Det er mit klare indtryk, at jeg ikke er unik. Overalt i den digitale

branche møder jeg mennesker, som har forstået, at den digitale verden er løbet af sporet, men de mangler et sprog for at kunne tale om det. De er i tvivl om deres egen rolle, de ved ikke, hvordan de kan gøre en forskel, og de er i tvivl om, hvorvidt de overhovedet har et ansvar.

Lad os starte med at slå fast, at du har et ansvar! Alle uetiske digitale løsninger starter med en uetisk designbeslutning truffet af et rigtigt levende menneske, som kunne have truffet en mere etisk beslutning. Problemet er bare, at vi ikke altid er opmærksomme på, at vores designbeslutninger inde bærer et etisk valg. Måske stirrer vi os blinde på at løse et helt specifikt problem og skaber i stedet ti nye problemer. Måske forestiller vi os en helt særlig brug af vores løsning og glemmer, at der kan være andre – måske endda ondsindede – måder at bruge vores løsning på. Eller måske er vi så forhippede på at tjene penge eller udvide vores markedsandele, at alle andre hensyn – deriblandt de etiske – bliver sat ud af spillet.

Da programmører og designere hos Amazon udviklede en ny ansættel sesalgoritme til at sortere deres mange tusinde ansøgninger, forsøgte de at løse et problem, der handlede om at spare enorme mængder af tid i ansæt telsesprocessen. Problemet var bare, at de fik designet en algoritme, som frasorterede kvinders ansøgninger og på den måde blev direkte kønsdiskriminerende. De havde løst ét problem, men skabt et andet, fordi de havde stirret sig blinde på løsningen af det snævre problem, som handlede om at spare tid.2

Hvis du anvender Netflix, har du sikkert bemærket, at tv-serier afsluttes med et nedtællingsur, som giver dig cirka 10 sekunder, før den næste epi sode starter automatisk. Det er en funktion, som egentlig ikke bidrager med nogen nytte for brugerne af Netflix, tværtimod lokker det til binging og helt overdrevet forbrug af tv-serier. Funktionen kaldes autoplay og blev desig net, fordi udviklerne og designerne hos Netflix udelukkende havde to suc ceskriterier: at fastholde brugerne som kunder og få dem til at konsumere så mange timers underholdning som overhovedet muligt. Da man testede autoplay, afprøvede man nedtælling på 5, 10 og 15 sekunder. Det viste sig, at 10 sekunders nedtælling var langt det mest effektive i forhold til de to succeskriterier. Beslutningen om at designe autoplay-funktionen blev altså truffet uden de store etiske overvejelser. Man testede bare forskellige design

i forhold til nogle snævre forretningsmål. Konsekvensen blev, at millioner af Netflix-kunder verden rundt bliver lokket til at tilbringe alt for meget tid foran skærmen.3

BOGENS OPBYGNING

Eksemplerne med Amazon og Netflix viser, hvordan programmører og designere sjældent er bevidste om, at de træffer etiske beslutninger, når de udvikler digitale løsninger. Skal vi blive bedre til at designe ansvarlige og etiske produkter, bliver vi altså nødt til at starte med at forstå, hvornår vi står over for et etisk problem. Vi bliver med andre ord nødt til at træne vores etiske muskel til at genkende etiske problemer og dilemmaer, når vi møder dem i vores dagligdag som digitale designere.

I næste kapitel kommer vi derfor til at dykke ned i spørgsmålet om etik, og hvorfor et næsten 3000 år gammelt begreb er mere aktuelt end nogen sinde i en digital tidsalder.

I kapitel 3 taler vi om, hvad etik egentlig har med design at gøre. Har designere overhovedet et etisk ansvar for deres design? Er det ikke bruger ne af designet, der har det egentlige ansvar? Det er jo ikke pistolen, der dræber, det er personen, der trykker på aftrækkeren. Eller hvad?

Designetik har altid været et vigtigt spørgsmål. Arkitekter, industrielle designere, propagandister og reklamefolk har i århundreder vidst, at deres fag kunne have mørke sider. Men i en digital tidsalder, hvor størstedelen af vores liv leves gennem et digitalt interface designet af designere, står vi over for en helt ny skala af etiske udfordringer. Det kommer du til at kunne læse mere om i kapitel 4.

Herefter går vi over til bogens anden del, hvor vi begynder at kigge på løsninger. Denne del af bogen bygger på projektet Det Digitale Etikkompas, hvor jeg i samarbejde med Dansk Design Center har udviklet en række guidelines og redskaber, der hjælper virksomheder med at designe mere etiske digitale løsninger. Alle disse redskaber ligger på Dansk Design Cen ters hjemmeside, men for at gøre det nemt for dig har jeg samlet det hele på websiden www.petersvarre.dk/digitaletik.

Formålet med del 2 er, at du bliver i stand til at bringe designetisk tænkning ind i din egen organisation. At du bliver i stand til at åbne motorhjelmen på jeres digitale løsninger og finde alt fra etiske mislyde til tikkende etiske bomber, og endelig at du bliver i stand til at finde løsninger på de etiske problemer. I modsætning til del 1 er denne del af bogen meget praktisk og fyldt med øvelser og modeller, som du kan bruge i dagligdagen.

Som sagt er etik en muskel, der skal trænes, og i kapitel fem kan du læse om, hvordan du kommer i gang med træningen, men også om, hvorfor det kan være så svært at komme i gang. I kapitel 6 starter vi opvarmningen af de etiske muskler. Det kan lyde fjollet, men opvarmning er faktisk nødven dig, fordi mange virksomheder slet ikke er vant til at beskæftige sig med etiske spørgsmål. I kapitel 7 lærer vi, hvordan man åbner motorhjelmen på ens egne digitale løsninger. Vi lærer, hvordan man ved hjælp af forskellige teknikker og øvelser kan se sin digitale løsning fra andre vinkler og per spektiver. I kapitel 8 diagnosticerer vi problemerne og lærer fra andre virk somheder og organisationer med lignende problemer, og i kapitel 9 løser vi problemerne.

Derefter går vi over til bogens tredje del, som handler om, hvordan du sikrer, at etikken slår rødder i organisationen (kapitel 10), og hvordan du får ledelsen med på den etiske rejse (kapitel 11). I det afsluttende kapitel 12 prøver vi at forestille os en digital verden helt uden etik. Det er en øvelse i provocatyping – en metode, du kommer til at høre mere om i kapitel 7. Og pointen er naturligvis, at vi ved at forestille os det værst tænkelige i fremti den kan lære noget vigtigt om nutiden.

Arbejder du med digital kommunikation eller produktudvikling, har du et ansvar – nemlig ansvaret for, at dine digitale superkræfter ikke gør mere skade end gavn.

Misbrug af data, diskriminerende algoritmer og manipulerende adfærdsdesign er det seneste årti blevet hverdagskost. Den digitale verden er løbet af sporet, og ansvaret hviler på skuldrene af alle, der designer, udvikler, programmerer og projektleder digitale løsninger.

DIGITAL ETIK hjælper dig med at bære ansvaret. Bogen giver dig:

• En forklaring på, hvorfor etik og ansvarlighed bør være det første, du tænker på, når du vågner om morgenen

• Et sprog til at tale om digital etik

• Konkrete redskaber til at forbedre dine digitale løsninger

• Argumenter for, hvorfor digital etik gavner din virksomheds bundlinje – også på den lange bane.

Skal vi bygge en bedre og mere menneskelig digital verden, starter det med dig og dine valg. Denne bog hjælper dig med at træffe de rette valg.

”Digital Etik er noget så sjældent som en menneskelig, håndgribelig og dybt sympatisk bog om digitale forandringer og de praktiske, politiske og etiske refleksioner, som vores teknologiske fremtid afkræver. Og det er netop den slags kritiske og konkrete perspektiver på digitalisering, som verden har brug for lige nu.”

– Mikkel Flyverbom, professor i kommunikation og digitale forandringer, CBS, formand for regeringens ekspertgruppe om tech-giganter og medlem af Digitaliseringsrådet og Dataetisk Råd

9 788750 061106