Maskinerne kommer indefra by Gutkind Forlag

Maskinerne kommer indefra

Af samme forfatter:

Digte 1, 2001

Tasseografier, 2002

Fodnoter til en ung mands indre husholdning, 2003

Semi-supervised Learning and Domain Adaptation for NLP, 2013

Cross-lingual Word Embeddings, 2019

(s.m. Ivan Vulić, Sebastian Ruder & Manaal Faruqui)

Landskabsdigternes Klub, 2019

Explainable Natural Language Processing, 2021

Hus uden fundament, 2022

Kunstig intelligens bagfra, 2022

Iliaden, 2023

Anders Søgaard Maskinerne kommer indefra

Forstå kunstig intelligens før den forstår dig

Gutkind

Maskinerne kommer indefra

1. udgave, 1. oplag, 2024

Omslag: © Simon Lilholt, Imperiet

Foto: © Alexander Banck-Petersen

Sat med Palatino hos LYMI DTP-Service

og trykt hos ScandBook EU

ISBN 978-87-434-0870-3

Enhver kopiering fra denne bog må kun ske efter reglerne i lov om ophavsret af 14. juni 1995 med senere ændringer.

Gutkind Forlag · Læderstræde 9, 1. · DK-1201 København K gutkind.dk · gutkindforlag · gutkind_forlag

Til jer alle tre. Jeg glemmer, hvor mange gange jeg har lagt mig ved siden af jer for at mærke, om

I trak vejret. Husk fra tid til anden selv at mærke efter.

Forord

En meditationslærer bad mig engang forestille mig, at jeg var en ananas. Det syntes jeg var svært. Filosoffer har tænkt over, hvordan det er at være en flagermus eller en blæksprutte. Tænk at se verden gennem sonar eller have arme, der bevæger sig selv. Det er også svært. Jeg skal nok vende tilbage til flagermus og blæksprutter, men lad os begynde med noget lettere. Lad os forsøge at forestille os, hvordan det var at være inde i de mennesker, der boede her i Nordeuropa for to hundrede år siden. Hvorfor skal vi det? tænker du måske. Det skal vi, fordi den her bog handler om den sidste forgrening af et stamtræ af teknologi, der endnu ikke havde slået rødder for to hundrede år siden.

Bogen handler om, hvordan de teknologier har påvirket os og vil påvirke os. Lad os derfor forestille os, hvordan det var at være menneske dengang.

Forestil dig, du vågner en morgen i det 19. århundrede. Du står ud af sengen og mærker den kølige luft i det uopvarmede soveværelse. Din seng består af en træramme og en tyk stråmåtte. Der er ingen elektricitet, men rummet er oplyst af dagslys. Du tager tøj på og går ned i køkkenet, hvor du tænder op i komfuret med træ eller kul for at tilberede din morgenmad: havregryn, brød og smør. Du brygger kaffe på en kakkelovn. Børnene er gået i skole. Skolen er en

lille bygning i en nærliggende landsby, opvarmet af en brændeovn. Hvis man følger grusvejen gennem skoven, tager det kun en halv times tid at gå derhen. Frøkenen underviser i læsning, skrivning og hovedregning. Udenfor er mændene på vej i marken, og din nabo piller vasketøj ned, fordi det er begyndt at regne.

I det 19. århundrede arbejdede de fleste mennesker i landbruget, på fabrikker, i miner, som håndværkere eller som tjenestefolk. De arbejdede op til 12 timer om dagen, seks dage om ugen. De fleste boede flere generationer under ét tag, uden elektricitet, rindende vand eller centralvarme. Kvinder havde ansvaret for husholdningsarbejde, herunder madlavning, rengøring og pasning af børn. Kun de bedst stilledes børn gik i skole. Transport foregik til hest eller til fods. For de fleste var der ingen læger og ingen medicin. Kopper og kolera var stadig udbredt.

Forestil dig nu, de ti minutter det tager, før vandet i kasserollen af støbejern på din kakkelovn begynder at koge. Sæt eventuelt et æggeur – eller uret på din telefon – så du kan mærke, hvor lang tid ti minutter er. Lad os prøve. Træk vejret dybt. Ti minutter. Se kasserollen på kakkelovnen foran dig. 9 minutter og 57 sekunder. Alt står stille. 9 minutter og 55 sekunder. I de ti minutter, det tager vandet at nå dets kogepunkt, sker der intet. Overhovedet ingenting. Du sidder der i køkkenet og glor på kasserollen, venter, tørrer måske køkkenbordet af. Tanker myldrer frem. Udenfor på himlen bryder Solen gennem skyerne. En regnbue. Hvordan er det nu med regnbuer? Du husker, nogen har fortalt dig, hvordan regnbuer opstår, når Solen lyser gennem regnens små vanddråber, men du husker ikke længere detaljerne. Hvorfor alle disse farver? Og hvorfor altid i samme rækkefølge? Du kan

jo spørge præstefruen, hvis du møder hende senere i dag. Du ser hen mod kakkelovnen. Ni minutter og tyve sekunder.

I mit liv får ti minutter sjældent lov at være ti minutter. Der er kogende vand i min vandhane, og hvis jeg bruger to minutter på at varme mad i en mikrobølgeovn, når jeg som regel at svare på to e-mails og en sms-besked, inden maden er færdig. I køen i Bauhaus når jeg at opdatere min kalender. Og når jeg cykler ned til togstationen, hører jeg podcast eller en lydbog om et emne, der optager mig. I går var det de varmblodede pattedyrs evolutionshistorie, i forgårs det amerikanske valg og en analyse af Anscombes moralfilosofi. Jeg skal sjældent vente på togstationen, fordi Rejseplanen har advaret mig om dagens forsinkelser. Jeg når alligevel at købe et par brugte rulleskøjter til min yngste, inden jeg går om bord på toget. Der er meget lidt, der går langsomt i mit liv – og kun, når jeg selv vælger det. Hvis jeg undrer mig over, hvordan regnbuer opstår, tager jeg min telefon op af lommen og spørger, hvordan det nu lige er med regnbuer og den slags, hvorpå min telefon beredvilligt svarer: “En regnbue opstår ved lysbrydning og dispersion af sollys i vanddråber i atmosfæren. Farverne er altid i samme rækkefølge på grund af variationen i bølgelængder i lysspektret, hvor rød har den længste bølgelængde, og violet har den korteste.”

Bogen her er sat i verden af to grunde. Først og fremmest for at hjælpe dig og mig og os alle sammen med at finde hoved og hale i alle de muligheder og udfordringer, som kunstig intelligens stiller os overfor. Men også for at tage bestik af, hvad der lurer derude, længere ude i horisonten. For mulighederne er mange. Udfordringerne er mange. Skal vi glæde

os over al den teknologi, som gør vores liv mindre bøvlet? Ja, selvfølgelig. Kan du huske at gå i regnvejr ned til stoppestedet for at finde ud af, hvornår den næste bus gik? Kan du huske koncertbilletterne, der ikke nåede frem inden koncerten? Du fandt en danskungarnsk parlør i et antikvariat og lærte dig selv at sige tak for mad på ungarnsk inden sommerferien, men da du kom derned, rystede tjeneren på hovedet og sagde på engelsk, at ingen siger tak for mad på den måde længere. Kan du huske at sidde og vente på, at de spillede din yndlingssang i radioen for, at du kunne optage den på kassettebånd? Fornemmelsen af at sende en filmrulle til fremkaldelse uden at vide, om billederne er gode? Duften af korrekturlak. Skuffen med frimærker.

Verden var ikke bare lidt mere besværlig for tyve eller fyrre eller hundrede år siden, men også temmelig urimelig. For hvad med dem, der ikke lige kunne smutte ned til busstoppestedet, fordi de var gangbesværede eller utrygge ved at gå udenfor. Og hvad med dem, der lige var flyttet til landet og kun talte tysk. Dem, der ikke havde råd til kassettebåndoptagere, filmruller og atlas. Forklaringen på regnbuer er umiddelbart tilgængelig for os alle i dag. Engang krævede det, at ens forældre var rige nok til at have et leksikon i bogreolen, eller at du boede et sted i verden, hvor der lå et bibliotek rundt om hjørnet. Begge dele var de færreste forundt. Der er masser at glæde sig over.

Skal vi omvendt bekymre os over vores manglende evne til at vente på et tog i ti minutter uden batteri på vores telefon? Skal vi bekymre os over vores manglende evne til at løbe en tur, hvis vi ikke kan

finde et par hovedtelefoner? Skal vi bekymre os over vores manglende evne til at være til stede i et øjebliks stilhed, uden at finde stilheden omklamrende, uden at blive urolige? Ja, selvfølgelig. Der er masser at bekymre sig over.

Skal vi glæde os over al den teknologi, der bliver mere og mere brugervenlig, billigere og billigere, mere og mere demokratisk? Ja, selvfølgelig. Det er måske første gang i verdenshistorien, at menneskehedens mest avancerede frembringelser er gjort tilgængelige for næsten alle på én gang. Ikke kun de rige, de veluddannede, borgere i bestemte lande. Teknologi kan bidrage til større lighed. Der er masser af eksempler. Vaskemaskiner, toge og internettet. Online-uddannelse har gjort uddannelse mere tilgængelig, også langt væk fra biblioteker og læreanstalter. Telemedicin har bragt lægehjælp til Grønlands mest isolerede bygder. Skærmlæsere og talegenkendelse har gjort livet lettere for ordblinde. Vedvarende energi bidrager til at give alle lige adgang til elektricitet. Sociale medier har haft mange utilsigtede virkninger, men også givet stemme til marginaliserede grupper. På hver deres måde har den her slags teknologier begrænset forskellen mellem dem, der har gode kort på hånden, og dem, der har mindre gode kort på hånden.

Skal vi bekymre os for al den teknologi, der bliver mere og mere omsiggribende, mere og mere tillokkende, og en bedre og bedre forretning for dem, der sælger den? Skal vi bekymre os for, hvad de her teknologier kan bruges til i hænderne på de forkerte? Skal vi bekymre os om, hvor afhængige vi alle sammen bliver af dem? Ja, selvfølgelig. Teknologien kryber ind overalt, fra kritisk infrastruktur til vores

personlige forhold. Udvikling, lancering og ibrugtagen går hurtigt, og måske endda – fra tid til anden – en smule for hurtigt.

Kunstig intelligens giver på en måde teknologier et menneskeligt ansigt. En læge vil hellere aflevere sine noter til en sekretær end en database. En hjemmeplejer vil hellere tale med sin kollega end kommunens nye elektroniske platform til dokumentation af borgernes pleje og behandling. Men er det, fordi de har en puls? Fordi de er lavet af kød og blod og har syge børn om mandagen?

Muligvis, men givetvis også fordi kollegaer tit er lettere at arbejde sammen med. Ingen uigennemskuelige dropdown-menuer, ingen redundans og ingen systemfejl. Problemet med de fleste IT-systemer er, at de passer dårligt ind i vores hverdag. Jeg ved ikke, hvad du arbejder med, men der er gode chancer for, at din hverdag byder på korte samtaler med dine kollegaer ved kaffemaskinen, en telefonsamtale med en kunde eller en leverandør, måske skriver du en e-mail eller to. Og så skal du pludselig udfylde et regneark og huske, hvordan man regner summen af en række tal ud eller ændrer skriftstørrelse på kolonnernes overskrifter. Kunstig intelligens muliggør, at vi i stigende grad kan tale med teknologier, som om vi talte med hinanden. Vi kan tale med computere og formulere os i hele sætninger og spørgsmål. Vi behøver ikke længere skrive HTML-kode, SQL-forespørgsler og sætte søgestrenge sammen på en bestemt måde for at finde, hvad vi leder efter på internettet. Der er masser at glæde sig over. Og der er masser at bekymre sig om. På én og samme tid. Og det er ofte svært at skille muligheder og udfordringer ad. Kunstig intelligens er et tveægget sværd.

Mulighederne og udfordringerne er mange, men hvor vildt bliver det? Hvilke muligheder står vi overfor om to år eller om ti år? Hvilke udfordringer vil vores børnebørn stå overfor? Det er bogens anden bevæggrund. Ingen ved, hvordan verden ser ud om to år eller om ti år, og selvom jeg måske kan sige noget om, hvad der er sandsynligt, og hvad der er usandsynligt, bliver den slags hurtigt til gætværk. Omvendt kan jeg måske sige noget om, hvad der er muligt. Altså noget om, hvad der ikke er umuligt.

Hvorfor bekymre sig om, hvad der ikke er umuligt? Det er ikke umuligt at blive ramt af et lyn, at blive forelsket i et æsel eller at blive forvekslet med en berygtet forbryder, men de færreste af os bekymrer os om den slags. Omvendt bruger verden ikke en fjerdedel af sine samlede investeringer på at få et lyn til at ramme dig i nakken eller få dig til at falde pladask for et æsel. Hvis du vidste, at stærke kræfter eller måske bare et menneske, der havde set sig gal på dig, forsøgte at få politiet til at forveksle dig med en kendt serieforbryder, ville tanken måske alligevel holde dig vågen om natten. Der er masser af ting, der er mulige. Nogle mulige ting er mere sandsynlige end andre. Og sandsynligheden for, at et eller andet indtræffer, afhænger blandt andet af, hvor meget folk skubber på, og hvor mange kræfter de er villige til at lægge i det. Der bliver investeret enorme summer i kunstig intelligens lige nu. Både i udvikling og i forskning. Der investeres i Silicon Valley, men også alle mulige andre steder. EU investerer. Den danske regering investerer. De svenske og norske regeringer investerer. Kommunerne investerer. Alle har tilsyneladende kastet alt, de har i hænderne. Der udvikles hardware og software på livet løs. Hos store, internationale virksomheder.

Hos mindre danske virksomheder. På universiteterne.

Sidste år udkom en halv million forskningsartikler om kunstig intelligens. Tingene går stærkt. Og i alle retninger på én gang. Jo mere der udvikles og forskes, des større chance for, at kunstig intelligens når i mål. Jo mere aktivitet i verdens forskningslaboratorier, jo flere forsøg der foretages, des større chance for, at en eller anden forsker en dag rammer rigtigt. Skulle man tro. Det kan være, at konkurrencen på markedet får os alle til at løbe rundt som hovedløse høns, fare forvildet omkring på stedet uden at nærme sig målet, men det er svært at forestille sig. Hvis man hænger en stor gulerod op foran en flok anerkendelsessyge forskere og en hær af private virksomheder og pengegriske investorer, løber de som regel efter den. Og guleroden her er kæmpestor. Med al den opmærksomhed, der er omkring kunstig intelligens lige nu, med alle de investeringer, der foretages, tænker jeg, at der er gode chancer for, at kunstig intelligens når i mål.

Men hvad er målet egentlig?

Kunstig intelligens har siden 1956 haft ét mål: at genskabe alt det magiske og særegne ved mennesker i computerkode. Målet blev formuleret af den amerikanske datalog John McCarthy. I sommeren 1956 var McCarthy en ung adjunkt ved Dartmouth Colleges matematiske institut, og med støtte fra Rockefellerfonden havde han inviteret et dusin forskere fra nær og fjern til et månedlangt seminar på instituttets øverste etage. Seminaret begyndte den 18. juni 1956, fem dage efter at en storm havde hærget Louisiana og dræbt fire, og ti dage efter at verden havde oplevet en total solformørkelse. Det var året, hvor amerikanerne forelskede sig i Elvis, og Khrusjtjov vendte sig mod Stalin.

Forskerne havde hele etagen for sig selv og mødtes de fleste hverdage i et tomt klasselokale, hvor de skiftedes til at føre diskussionen. Dartmouth College ligger ned til Connecticutfloden i New Hampshire, for foden af granklædte bakkedrag. Campusset består af røde murstensbygninger med irgrønne tage, fordelt på en stor græsplæne og forbundet af små gangstier. Over den ikoniske hovedbygning – Baker-Berrybiblioteket – troner et tres meter højt tårn, en kopi af Independence Hall i Philadelphia. Det var på trappen til hovedbygningens indgang, at konferencens deltagere lod sig fotografere til et af de mest berømte fotografier i datalogiens historie. Hvorfor er fotografiet blevet berømt? Fordi McCarthys seminar var første gang, nogen brugte begrebet kunstig intelligens. Seminaret blev startskuddet på et forskningsfelt, der skulle vise sig at få stor indflydelse på os alle sammen og den verden, vi lever i.

Computeren var allerede blevet opfundet i 1930’erne. Og mange var dybt fascinerede. Den tyske 1700-talsfilosof Gottfried Wilhelm Leibniz havde gjort sig tanker om, hvorvidt det blev muligt en dag langt ude i fremtiden at bygge sansende og bevidste maskiner. Computerens opfindelse i 1930’erne gjorde pludselig den slags tankeeksperimenter meget aktuelle. Kan man udtrykke menneskelig intelligens i computerkode? spurgte Dartmouth-seminarets deltagere. Hvad er menneskelig intelligens? For seminarets deltagere var det alt det, der adskiller voksne fra små børn. Små børn, der endnu ikke har lært at spille skak, genkende bogstaver eller nynne med på Jupiter-symfonien.

Lige nu bruger verden altså omkring en fjerdedel af sine investeringer på at få computere til at kunne

alt det, der adskiller voksne fra små børn. Det er mange penge. Vil det lykkes? Ja, sandsynligvis – hvis det ikke er principielt umuligt. Altså, med andre ord: Fordi der bliver smidt så meget tid og så mange penge efter kunstig intelligens, lykkes det sandsynligvis forskere at genskabe alt det, der adskiller voksne fra små børn, før eller siden – medmindre, selvfølgelig, at det er helt umuligt. Uanset hvor meget tid og hvor mange penge du har til rådighed, får du ikke en sten til at bløde, og hvis det er umuligt at få en computer til at forstå, hvad du spørger den om, eller hvis det er umuligt at få den til at reflektere over sit svar, vil ingen investeringer ændre på det. Det betyder ikke, at kunstig intelligens ikke kan lede til interessante opdagelser og teknologier – og som Walt Disney har sagt, kan det jo også være sjovt at forsøge det umulige.

Man kan inddele folk, der har holdninger til kunstig intelligens i tre: dem, der hævder, projektet er umuligt, fordi det er umuligt at genskabe menneskelig intelligens i computerkode. Altså, principielt umuligt. Uanset hvor mange investeringer vi spænder bag samme vogn, vil kunstig intelligens ifølge dem blive ved at løbe panden mod en mur. Det er simpelthen, siger de, ikke fysisk muligt at genskabe menneskelig intelligens i computerkode. Så er der dem, der tænker, at det måske godt kan lade sig gøre, teoretisk set, og at det muligvis endda vil ske en dag i fremtiden, hvem ved? Den tredje gruppe er dem, der mener, at det allerede er sket. Samtalen om, hvorvidt kunstig intelligens er principielt umuligt, er ældre end kunstig intelligens og går helt tilbage til Leibniz eller længere endnu. Bogen her vil – hvis alt går godt – både være et bidrag til den samtale og et indlæg i en mere

samtidig debat om kunstig intelligens og dens indflydelse på os og det samfund, som vi er en del af.

Det intellektuelle landskab, vi træder ind i, er mest af alt en jungle. Der er mange filosoffer og videnskabsfolk, der har tænkt over, hvordan teknologier påvirker os, på godt og ondt, og hvorvidt mennesker er mere end mekaniske urværker, milliarder af molekylære billardkugler, der banker troløst og forudbestemt ind i hinanden. Litteraturen rækker hundreder af år tilbage og er de seneste år eksploderet. Den vej, jeg har tænkt mig at stikke ud – vores vej, kære læser, gennem den tætbevoksede jungle – er temmelig idiosynkratisk. Og der er uendelig meget, du går glip af. Vi kommer ikke til at tale om, hvad Konfutse havde haft at sige om kunstig intelligens. Jeg kommer hverken til at nævne Sokrates eller Kant, og selvom Darwin og Marx måske kan anes mellem linjerne, vil jeg ikke yde nogen af dem retfærdighed. Filosoffer og videnskabsfolk, der for længst er døde, har skrevet vigtige ting om kunstig intelligens – også selvom begrebet ikke fandtes på deres tid. I løbet af de sidste 70 år er tusindvis af filosoffer og videnskabsfolk stødt til. Den del af junglen vil jeg heller ikke yde retfærdighed. Hvad værre er, at jeg heller ikke vil yde de sidste års udvikling inden for kunstig intelligens retfærdighed. Ikke engang sidste uges.

Jeg vil beskrive den teknologi, der ligger til grund for moderne chatbotter og sprogmodeller, men ikke fortabe mig i de små forskelle mellem forrige måneds sprogmodeller og sidste uges. Den slags detaljer vil sandsynligvis være irrelevante, når du læser bogen om et halvt år. De her sætninger blev skrevet i løbet af vinteren 2023–24. Tingene går lynhurtigt lige nu, og jeg vil forsøge at skrive om det, der forhåbentlig

bliver ved med at være relevant. Der er masser af forskningsartikler, nyhedsbreve og podcasts til dem, som er nysgerrige på kunstig intelligens’ dagsform.

Jeg vil om lidt – i bogens første kapitel – snakke om det, der vel er baggrunden for den her bog: vores møde med moderne kunstig intelligens. Dét der øjeblik, hvor vi for første gang sætter os ned foran en computer, og det viser sig, at den er levende, computeren, ja, nærmest menneskelig. Moderne kunstig intelligens har kastet flere ud i eksistentielle kriser, mens andre har fundet deres nye bedste venner blandt chatbotter og sprogmodeller. Mange husker, hvor de var, da nyheden spredtes om Murens Fald, eller da terrorister fløj ind i Twin Towers og Pentagon. På samme måde husker mange, hvor de var, da de første gang førte en samtale med en moderne chatbot. Og for de fleste er de første erfaringer med kunstig intelligens tvetydige: Er det her banalt eller magisk, pisseirriterende eller et kæmpe skridt for menneskeheden? Samtidig er det, som om vi hele tiden bliver tvunget til at vælge side – på arbejdspladsen, som forældre, til familiefødselsdage, ja, af teknologien selv:

“Hvad tænker du om mig? Brødrister eller din nye bedste ven?”

Fordi vores oplevelse med kunstig intelligens er så tvetydig, og fordi kunstig intelligens er et tveægget sværd, der på én gang præsenterer os for enorme muligheder og udfordringer, vil jeg minde os om, hvad intentionen bag kunstig intelligens var. Hvorfor fandt nogen på det her? Hvad har fået tusindvis af forskere – ja, også mig – til at bruge store dele af arbejdslivet på at få computere til at tale og kende forskel på billeder af katte og billeder af brandsprøjter. Det – altså hvor idéen bag kunstig intelligens kom fra – skriver

jeg lidt om i det andet kapitel, som også handler om, hvordan kunstig intelligens lægger sig i forlængelse af teknologier, der i løbet af de sidste to hundrede år har ændret den måde, vi er sammen med hinanden på, og den måde, vi deler viden på.

Det tredje kapitel handler om de mulige grænser for kunstig intelligens. Altså om det, som man måske ikke kan få en computer til. I midten af 1960’erne udvikledes de første chatbotter og sprogmodeller, men mest af alt for sjov. Tredive år senere begyndte de første virksomheder at bruge chatbotter til kundesupport. De første chatbotter hjalp med at bestille biografbilletter eller finde ud af, hvad der var galt med din vaskemaskine. Sprogmodeller blev brugt i talegenkendelse, men også til at hjælpe os med at skrive SMS-beskeder på mobiltelefoner med tolv knapper. I dag føles det som at snakke med et menneske, når vi snakker med en chatbot. Som en blind, der bytter en blindestok for en førerhund for derefter at bytte førerhunden for en hjemmeplejer, har vi fået en lang række muligheder, vi ikke havde før. Spørgsmålet er, om udviklingen stopper her? Hvordan ser en chatbot ud om ti år? Vil kunstig intelligens lykkes med at få computere til at kunne alt det, der adskiller voksne fra børn? Eller er det simpelthen bare af en eller anden grund uden for rækkevidde?

Det sidste og fjerde kapitel handler om, hvordan fremtiden tegner sig derude i horisonten. Hele kapitlet er gætværk, men gætværk er nødvendigt, hvis vi vil undgå at blive taget med bukserne nede. Kapitlet handler om at forstå de muligheder og udfordringer, som kunstig intelligens stiller os overfor. Og om de dynamikker, der lige nu trækker os i lidt forskellige retninger. Fra visioner om en verden, hvor alle er lige,

og vi alle får mere tid til at komme hinanden og livet ved – til frygten for, at kunstig intelligens vil gøre de rige rigere, de stærke stærkere og os alle sammen til slaver af dem, der formår at udnytte potentialet i den ny teknologi. Stephen Hawking sagde før sin død, at hvis det lykkes menneskeheden for alvor at skabe kunstig intelligens, vil det være det største, vi nogensinde har udrettet. Hvorefter han tilføjede:

“Og desværre muligvis også det sidste.”