Inn Ut Beregningsenhet

Minneenhet

Von Neumann-arkitekturen var en grunnleggende ny måte å designe datamaskiner på, og den revolusjonerte moderne datavitenskap. Den beskriver en maskin som kan ta inn et hvilket som helst sett instruksjoner, så lenge maskinen forstår dem, og gjøre beregninger på dem. Den første von Neumann-maskinen stod ferdig i 1952. Det samme året fant matematikeren Grace Hopper opp det første programmet som lar datamaskiner oversette ord, spesifikt engelske ord, til datamaskinspråk. Før den tid måtte datamaskiner programmeres direkte med 0-er og 1-ere. Å skrive 0-er og

1-ere er ikke en veldig morsom oppgave for oss mennesker som er vant til å formulere oss ved hjelp av ord. Det Grace Hopper laget, var verdens første såkalte kompilator.

Allerede på denne tiden, før datamaskiner engang var ferdig oppfunnet, grublet forskerne på hvorvidt presise instruksjoner til datamaskiner er nøkkelen til å gjøre dem intelligente. Særlig ett svar John von Neumann ga under en forelesning, illustrerer holdningen hans godt: En publikummer hadde kommentert at det er umulig for en maskin, i alle fall en menneskeskapt maskin, å tenke, og von Neumann svarte: «Du insisterer på at det finnes noe en maskin ikke kan gjøre. Hvis du forteller meg nøyaktig hva det er en maskin ikke kan gjøre, så kan jeg alltid lage en maskin som gjør nettopp det!»5 En ting som virkelig er morsomt å tenke på, er at vi fremdeles bygger opp datamaskinene våre etter von Neumann-arkitekturen, men også fremdeles ikke vet om de kan romme faktisk intelligens.

Med utviklingen av datamaskiner midt på 1900-tallet tok kunstig intelligens uansett endelig steget fra svindelog-drømmeland via idéverdenen til moderne vitenskap, og arbeidet med å lage datamaskiner som tenker som mennesker, var i gang.

Et fagfelt blir født

Det er ikke mange vitenskapelige felt som har en så veldefinert start som kunstig intelligens. Det hele skjedde på en liten workshop ved Dartmouth College på østkysten av USA, organisert av den unge forskeren John McCarthy, som senere ble en av de desidert mest innflytelsesrike forskerne innen kunstig intelligens. Før han begynte på Dartmouth, studerte McCarthy matematikk ved Princeton, hvor han møtte en annen kommende stjerne innen kunstig intelligens, Marvin Minsky. De to fant raskt tonen og innså at de hadde en felles lidenskap for spørsmålet om datamaskiners mulige intelligens. Da McCarthy så begynte ved Dartmouth i 1955, overtalte han Minsky og to andre medstudenter til å hjelpe ham å organisere en liten workshop. Han så bokstavelig talt for seg en to måneders samling der ti mennesker i løpet av sommeren 1956 skulle finne ut av disse «intelligente datamaskiner»-greiene. I den forbindelse fant McCarthy også på termen artificial intelligence (AI) – kunstig intelligens – i hovedsak for å skille feltet fra det beslektede feltet kybernetikk.

Forskjellen mellom kunstig intelligens og kybernetikk er subtil, men grunnleggende. Begge feltene handler om å studere intelligente systemer, men mens kunstig intelligens har som formål å skape maskiner som etterligner menneskelig atferd og intelligens, handler kybernetikk om å forstå hvordan intelligente systemer – det være seg biologiske eller mekaniske – prosesserer informasjon. Sagt med få ord er kybernetikk studiet av kommunikasjon og kontroll, mens dette nye feltet artificial intelligence var – og er! – bestrebelsen etter å skape intelligens i et kunstig system. Etter at navnet var etablert, har McCarthy forresten sagt at ingen egentlig likte betegnelsen artificial intelligence, men at de nå engang trengte et navn.

Sammen søkte de fire studentene sommeren 1956 om forskningsmidler til å finansiere workshopen sin, og i søknaden listet de opp blant annet resonnering, maskinlæring, nevrale nettverk, kreativitet og språkforståelse som temaer de ville utforske. De skrev at «ethvert aspekt ved intelligens eller læring kan i prinsippet uttrykkes så presist at en maskin kan simulere det» – og dermed var feltet grunnlagt. Og selv om det hele var fort gjort den gang, er grunnlaget McCarthy og medstudentene hans la denne sommeren, fremdeles fundamentet for selv moderne forskning innen kunstig intelligens. Den dag i dag er det fremdeles de samme begrepene – maskinlæring, nevrale nettverk, språkforståelse og så videre – vi forsker på, og den grunnleggende tanken om at læring og intelligens kan simuleres av datamaskiner, er fremdeles regjerende på feltet.

At et helt felt kan grunnlegges og defineres for mange tiår fremover av en gjeng glade studenter i løpet av en sommer, må enten bety at disse studentene er usedvanlig begavede, eller at feltet er betraktelig vanskeligere enn de forventet. Sannheten er nok litt av begge. Særlig fire av studentene – John McCarthy, Marvin Minsky, Herbert Simon og Allen Newell – endte opp som pionerer på feltet og kan trygt telles som «de fire store» innen kunstig intelligens. Samtidig var dette bare den første av mange ganger mennesker har undervurdert hvor komplisert veien til kunstig intelligens skulle bli, og fremdeles er. Gang på gang har vi trodd at vi står like før det store gjennombruddet som vil få maskiner til å tenke selvstendig, og gang på gang har vi innsett det motsatte.

Studentene våre avholdt sommermøtet og la planer med en enorm optimisme. Men 20 år senere, på 1970-tallet, var vi fremdeles milevis unna å løse intelligensgåten. Det fantes for eksempel fremdeles ingen datamaskin som kunne slå gode sjakkspillere. Det fantes riktignok programmer som kunne holde seg til reglene og gi amatører en utfordring, men det var alt. Faktisk skulle det ta helt til midten av 1990-tallet før sjakkmestrene fikk virkelig motstand fra maskinene.

Sjakk matt

Det er enkelt å få en datamaskin til å forstå reglene i sjakk. Men å lære den å velge mellom alle mulige trekk er uhyre tungt og beregningskrevende. Å mestre sjakk handler om å vite hva som kommer til å skje i fremtiden, og velge trekk deretter. For å velge neste trekk i et spill må en sjakkcomputer bygge et stort søketre som inneholder alle mulige fremtidige trekk fra begge spillere – den selv og motspilleren. Dette er et eksempel på en bitte liten del av et slikt tre, hvor hvite sirkler representerer maskinens trekk og svarte firkanter motstanderens trekk:

I bunnen av treet finner vi utfallene til alle de mulige spillene; 1, 0 og –1 for seier, uavgjort og tap. Gitt et slikt søketre kan en sjakkcomputer finne ut hvilket trekk som er det beste6 ved hjelp av en algoritme som heter Minimax. Denne algoritmen ble laget av John von Neumann i 1928 – ja, lenge før kunstig intelligens engang var et fagfelt – og tilpasset sjakkens bruk av Claude Shannon (som også var til stede under konferansen i Dartmouth i 1956) i 1950. Algoritmen handler om å jobbe seg oppover fra det siste trekket, velge den beste posisjonen fra hver mulige posisjon motstanderen kan ta, altså maksimum. På neste nivå antar den at motstanderen vil velge den dårligst mulige posisjonen for en selv, altså minimum. Disse maksimum/minimum-greiene er opphavet til algoritmens navn: Minimax. Helt til slutt velges den beste av de tre høyest rangerte posisjonene som beste trekk. Deretter er det motstanderens tur til å gjøre et trekk, og … sjakkcomputeren må bygge et helt nytt tre basert på den nye posisjonen på brettet, og gjøre hele minimax-leken igjen. Og sånn går det trekk for trekk, helt til spillet er over. Minimax er mildt sagt en smart idé, men hvis man stirrer litt på et sjakkbrett, innser man raskt et enormt problem: Det er umulig å se for seg alle mulige spill som kan utvikle seg på brettet, eller søke gjennom hele treet, som en sjakkcomputer måtte gjort. Hvis det i gjennomsnitt er mulig å gjøre 35 trekk fra en gitt posisjon, og et sjakkspill varer i rundt 80 trekk, får vi et søketre med 35⁸⁰ mulige posisjoner. Dette tallet er helt enormt. Vi kan skrive det som 10¹²³, altså et 1-tall med 123 nuller bak. Det er så mange posisjoner Minimax måtte tatt for seg for å si noe om verdien til en stilling.7 Til sammenligning består hele universet, med alt interstellart støv og alle galaksene vi vet om, av rundt 10⁷⁵ atomer. Dette betyr to ting. Det ene er at sjakken som spill sannsynligvis aldri vil kunne løses nøyaktig. Vi kan ikke vite om hvit vil vinne hvis den spiller perfekt, eller om det perfekte sjakkspill ender i remis. Sjakk er sånn sett en av universets gåter – og det er jo litt vakkert. Det andre er at sjakkcomputeren umulig kan søke gjennom hele treet, og vi derfor må gjøre noen triks. Tre stykker, for å være presis.

Det første trikset – som virkelig skiller gode sjakkcomputere fra dårlige – er å lage en evalueringsfunksjon som sier noe om hvor god en posisjon er, uten å måtte søke i treet. En middels god sjakkcomputer kan for eksempel sammenligne antallet brikker hver spiller har. En litt bedre sjakkcomputer vil vekte ulike brikker, siden en dronning er verdt mer enn en bonde, og så videre. Uansett hvor avansert denne funksjonen er, gir den til slutt et tall som sier noe om hvor god en posisjon er.

Så til neste triks: Siden ingen maskin kan søke gjennom hele treet, må vi gi den en regel om maksimal dybde å søke til.

«Bare se fem trekk frem i tid», kan regelen lyde. Men denne regelen kan gi oss et alvorlig problem: Det femte trekket frem i tid kan innebære at maskinen bruker dronningen sin til å ta en av motstanderens bønder, som er bra. Men hva om denne bonden ble beskyttet av en annen bonde, slik at motstanderen ender opp med å ta maskinens dronning med en bonde, på trekk seks? Dette vil maskinen ikke kunne ta høyde for og derfor evaluere posisjonen fem trekk frem i tid helt feil. En algoritme ved navn quiescence-søk ble utviklet for å løse dette problemet, og den innebærer at maskinen først stopper søket sitt idet den når en stabil posisjon, der alvorlige ting som «bonde tar dronning» ikke kan skje.

Og så til siste triks: Regnekraft er blant de mest verdifulle ressursene søkealgoritmer har. For å spare regnekraft er det viktig å innse at noen fremtidige posisjoner er helt håpløse og ikke verdt å undersøke. For å se hvilke fremtidige spill som er verdt å forfølge nedover i treet og hvilke grener som er uinteressante, brukes en algoritme som heter alpha-beta pruning. Pruning betyr beskjæring, og hensikten er simpelthen å virtuelt skjære vekk uinteressante grener fra treet – akkurat som vi kan skjære vekk dårlige grener på et frukttre. Disse ingrediensene – minimax med fast dybde, quiescence-søk og alpha-beta-beskjæring – er hjørnesteinene til alle sjakkcomputere, inkludert Stockfish som styrer pilen på NRKs sjakksendinger. I dag kan Stockfish beseire hvilken som helst menneskelig sjakkspiller kun ved bruk av regnekraften vi finner i en vanlig iPhone – men all denne regnekraften har ikke alltid vært tilgjengelig for oss.

Professor Edward Fredkin stod bak mange viktige fremskritt innen kunstig intelligens. Likevel er han kanskje mest kjent for å ha gitt navnet til en forskningspris, annonsert i 1980 av Carnegie Mellon-universitetet. Fredkin-prisen, pålydende 100 000 amerikanske dollar, skulle motivere informatikere til å skape en datamaskin som kunne slå verdens beste sjakkspiller. Men forskeren som skulle ende opp med å vinne Fredkinprisen, hadde aldri hatt ambisjoner om å vinne den. Seieren var heller et resultat av tilfeldigheter, og en doktorgrad som tok en annen retning enn først tenkt. Helten i historien er den unge doktorgradsstudenten Feng-hsiung Hsu, som hadde lite til overs for kunstig intelligens. Hsu begynte å jobbe på doktorgraden sin ved Carnegie Mellon-universitetet i 1985 og har i etterkant sagt at han ikke anså kunstig intelligens for å være «bullshit» som sådan, men hadde «sett en del forskning innen kunstig intelligens som virkelig fortjente bullshitmerkelappen».8 Hsu hadde heller ingen særlig interesse for datamaskiner som spilte sjakk, men var snarere en praktisk anlagt informatiker med en forkjærlighet for ingeniørproblemer – særlig de som angikk datamaskiners minste byggeklosser, de såkalte chipene. Enkelt forklart er en chip en bitte liten plate med en elektrisk krets på, som sammen med andre små deler utgjør datamaskiner. Og var det noe Hsu likte, så var det å lage stadig bedre chiper.

I dag kan du gjøre mobilen eller PC-en din til en sjakkmester gjennom å kjøpe riktig app eller program, selv om ingen av de to er spesifikt bygget for å spille sjakk. Det er selve sjarmen til digitale datamaskiner at de kan utføre et hvilket som helst program uten å være bygget for det. Men på slutten av 1980-tallet stod sjakkcomputere overfor en stor utfordring når det gjaldt beregningsevne: Selv gitt de tre triksene vi har vært gjennom, blir en sjakkcomputer bedre jo flere potensielle fremtidige stillinger den har kapasitet til å utforske. De beste sjakkcomputerne var derfor designet og bygget spesifikt for raske søk. Og én viktig ingrediens i skreddersydde datamaskiner er gode chiper. Omstendighetene gjorde derfor at Hsu og medstudentene hans ble rekruttert til å delta – om enn noe motvillig – i sjakkturneringer for datamaskiner.9 Den første turneringen Hsu deltok i, var på syv ukers varsel og innebar derfor mye utvikling med litt for mye press og litt for lite testing. Han og teamet deltok med et program de kalte ChipTest, for å understreke at programmet ikke var ferdig testet. Utfallet ble middelmådig, men allerede året etter vant de en overlegen seier. På dette tidspunktet søkte

ChipTest gjennom 500 000 fremtidige sjakktrekk per sekund. Veien derfra til virkelig gode sjakkcomputere skulle innebære en kraftig økning i antall sjakktrekk maskinen klarte å søke gjennom.

Da Hsu først begynte å jobbe med det som skulle bli ChipTest, ble det estimert at om hastigheten til hardwaren kunne økes tusen ganger, kunne det bli mulig å lage en kunstig verdensmester i sjakk. Den ingeniørmessige utfordringen dette utgjorde, var nok til å tenne en gnist i Hsu, og hans motivasjon lå i å finne ut om en solid økning i hastigheten virkelig var tilstrekkelig for å løse sjakkproblemet. Å slå verdens beste sjakkspiller regnet Hsu som en eventuell bonus.

Etter å ha avsluttet doktorgraden sin, som endte opp med å dreie seg om ChipTest og sjakkturneringer, fikk Hsu jobb i IBM. Der ble ChipTest videreutviklet til Deep Thought, som utvilsomt høres mer Terminator-aktig ut enn ChipTest.10 I

1989 utfordret Deep Thought den regjerende verdensmesteren

Garri Kasparov for første gang, og Kasparov beseiret Deep Thought med letthet i spillets to kamper.

Det Hsu måtte klare, var å finne en smart måte å søke gjennom tilstrekkelig mange mulige fremtidige trekk. Nettopp dette klarte han, og i samarbeid med mange andre ingeniører brukte han en hel doktorgrad etterfulgt av et tiår med utvikling på å få det til. Arbeidet kulminerte i et beist av en sjakkcomputer ved navn DeepBlue, som skulle ende opp med å bli den første maskinen i verden som beseiret en regjerende verdensmester. Nå hadde det vært utrolig gøy å fortelle deg om det geniale knepet Hsu fant ut, og som gjorde at datamaskiner kunne ta steget til å bli sjakkmestere. Men noe slikt knep fantes dessverre ikke. Det Hsu gjorde i løpet av de årene han jobbet med sjakkcomputere, var solid ingeniørkunst kombinert med godt algoritmedesign. Han bygget spesialtilpassede chiper og jobbet intenst med å få sjakk-algoritmene til å bli så lite beregningstunge som overhodet mulig. I tillegg jobbet han sammen med stormesterne Miguel Illescas, John Fedorowicz og Nick de Firmian for å finjustere evalueringsfunksjonene. DeepBlue inneholdt altså store mengder aktuell sjakkvisdom i tillegg til avanserte algoritmer og regnekraften Hsu hadde brukt hele karrieren sin på å gi den. Det hele ga uttelling, og den 10. februar 1996 beseiret DeepBlue den regjerende verdensmesteren Garri Kasparov. Dette er likevel ikke den berømte datoen: Ikke før våren 1997 møttes Kasparov og DeepBlue til en kamp hvor de offisielle reglene for sjakkturneringer ble overholdt. Gjennom seks spill fordelt over åtte dager ble DeepBlue den udiskutable vinneren. Den 11. mai 1997 ble en merkedag i AI-historien: For første gang måtte menneskene overlate sjakk-tronen til maskinene.

Resonneringens bananflue

Garri Kasparov hadde spilt mot sjakkcomputere flere ganger tidligere. Allerede i 1985 spilte Kasparov samtidig mot 32 av verdens beste sjakkcomputere og beseiret samtlige av dem. Som Kasparov har sagt i ettertid: «For meg var dette gullalderen. Maskiner var svake, og håret mitt var sterkt!»11

Tolv år senere hadde Kasparov nok med å konsentrere seg om én sjakkcomputer – som altså endte opp med å beseire ham. Da hadde Kasparov vært verdensmester i over ti år. I forkant av spillet mot DeepBlue hadde han bedt om å få studere andre partier DeepBlue hadde spilt, men IBM avslo. Kasparov var vant til å anslå motstanderens strategi, observere kroppsspråket deres og se dem i øynene. Å sitte overfor DeepBlue ga ham en ny følelse, noe urovekkende. Jeg ser for meg at kanskje fabrikkarbeidere hvis arbeidskapasitet ble beseiret av dampmaskinen under den første industrielle revolusjonen, hadde den samme følelsen. På forsiden av

Newsweek ble kampen mellom Kasparov og DeepBlue omtalt som «the brain’s last stand». Etter 1997 lurte Kasparov på om DeepBlue var uovervinnelig, og om sjakken nå var løst, beseiret, over. Han sier selv at han følte tvil og frykt. Kanskje følte han til og med en eksistensiell frykt. Som Kasparov har påpekt, følte nok ikke DeepBlue på den samme frykten.12 Hsu hadde et helt annet syn på saken. Han sa at «konkurransen var egentlig mellom to mennesker i ulike roller: mennesket som utøver og mennesket som verktøymaker».13 DeepBlue hadde hverken intuisjon eller erfaring, som Kasparov derimot hadde imponerende mye av. DeepBlue vant på regnekraft, avanserte søkealgoritmer og evalueringsfunksjoner utviklet av menneskelige eksperter over mange tiår. Kort sagt beregnet

DeepBlue seg til seieren. I dag er det ingen som blir skremt eller overrasket over at datamaskiner beseirer sjakkmestre, noe mer enn vi blir satt ut av at en motorsykkel kjører raskere enn

Usain Bolt klarer å løpe. DeepBlue søkte gjennom svimlende 200 millioner posisjoner i sekundet. Denne prosessen ligner lite på det vi mennesker gjør når vi spiller sjakk – akkurat som flyene våre ikke flakser med vingene sine. DeepBlues metode er det vi innen programmering kaller brute force: Med rå kraft regnet den seg frem til det beste svaret.

Maskinenes dominans av sjakken har dog ikke gjort spillet mindre interessant for oss: Selv om hver eneste smarttelefon kan kjøre sterkere sjakk-apper enn det DeepBlue var i 1997, følger vi våre menneskelige sjakkmestre med spenning, og vi spiller mer sjakk enn noensinne. I 2018 påpekte også Kasparov at sjakken, i tillegg til å være et fascinerende spill, er for en resonneringens bananflue å regne. For akkurat som Drosophila melanogaster – også kjent som bananfluen – er en nyttig organisme for genforskere, har sjakken blitt «et laboratorium for kognisjon». Faktisk tror jeg vi trygt kan si at sjakken er det mest utførlig studerte domenet innen kunstig intelligens, og fremdeles i 2020-årene bruker vi sjakk for å utvikle og undersøke maskinell intelligens.

For mennesker handler sjakkspill om abstrakt tenkning, om strategi, mønstergjenkjenning, dyp konsentrasjon og ofte også psykologi. Mennesker mestrer ikke sjakk gjennom å evaluere mange millioner stillinger i sekundet. Det er noe mer der, noe vi mennesker har forstått. Og det er jo nettopp det vi er ute etter i intelligente maskiner. Dette mystiske som er forståelse.

Universets beste sjakkspiller

Selv om DeepBlue var en fantastisk bragd av ingeniørkunnskap og spilte sjakk på en intelligent måte, vil de færreste av oss tenke på maskinen som intelligent. Denne følelsen er et framifrå eksempel på et historisk fenomen som er så vanlig at det har fått et eget navn: The AI effect. Denne «AI-effekten» beskriver fenomenet vi observerer omtrent hver gang noen klarer å lage en datamaskin som løser et problem vi trodde at krevde intelligens – for eksempel å spille sjakk – og vi ombestemmer oss og sier: «Å ja, men det er jo ikke intelligens! Det er jo bare en beregning!» Og det er ikke godt å si hva som skal til for at vi mennesker skal bli overbevist av intelligensen til en maskin. Må den være tilpasningsdyktig, må den ha bevissthet, må beregningen den utfører, være uforståelig for oss, litt på samme måte som menneskehjernen fremdeles er et mysterium for oss? Tenk litt over det. Hvis du lander på det siste kriteriet, at maskinen må gjøre noe litt mystisk, er du ikke alene.

På 1980-tallet analyserte sjakkmesteren og filosofen Eliot Hearst hvor ulikt mennesker og maskiner oppfører seg når de spiller sjakk.14 Sjakkcomputerne bruker smarte algoritmer og dernest lynraske søk gjennom enorme antall mulige utfall av potensielle trekk, for å regne ut vinnersannsynligheten til hvert av dem. Menneskelige sjakkspillere gjør derimot noe helt annet, noe også eksperimentene til Hearst viste. Det vi mennesker gjør, er både langt raskere og mer energibesparende: Vi gjenkjenner mønstre på sjakkbrettet. Slik klarer de beste sjakkspillerne blant oss å se direkte på en posisjon hvilken type strategi som egner seg best. Mennesker som virkelig har skjønt sjakk, har med andre ord skjønt noe overordnet, noe konseptuelt, som gjemmer seg i brikkenes kombinasjoner –og som dessuten har lite å gjøre med søk gjennom millioner av mulige trekk. Hearst mente at med mindre datamaskiner lærte seg å gjenkjenne mønstre og forstå abstrakte konsepter på samme måte, ville de aldri kunne spille sjakk som mennesker. Mens vi kan tenke at tradisjonelle sjakkcomputere som DeepBlue vinner gjennom rå styrke, og at kapasiteten deres til å evaluere enorme antall spillposisjoner kompenserer for deres manglende intuisjon for spillet, kan vi også tenke motsatt på det hele: Siden vi mennesker ikke har kapasitet til å tenke mer enn et titall mulige spill fremover, har vi vært tvunget til å utvikle en annen evne for å spille sjakk, nemlig denne intuisjonen. I senere tid har utviklingen innen kunstig intelligens ført til sjakkcomputere som behersker en kombinasjon av de to, altså både raske søk og en mønstergjenkjenning som minner om intuisjon for spillet.

Den 5. desember 2017 ble AlphaZero introdusert for verden. Dette er en sjakkcomputer av den mest moderne sorten, skapt av et av verdens ledende miljøer innen forskning på kunstig intelligens, firmaet DeepMind (som ble kjøpt opp av Google i 2014). Det hadde ikke tatt mange tiår å utvikle AlphaZero; faktisk hadde den på bare 24 timers spilling mot seg selv lært seg å spille sjakk på overmenneskelig nivå.

DeepMind kunne fortelle at AlphaZero ikke bare spilte på et overmenneskelig nivå, men også utkonkurrerte ledende sjakkcomputere som Stockfish. AlphaZero lærte seg å spille sjakk gjennom å trene for seg selv. Det er greia med «zero» i navnet: Den kunne ingenting – zero – da den begynte å spille imot seg selv. Og i løpet av et døgn hadde den tilsynelatende utviklet seg til å bli universets beste sjakkspiller – med mindre noen har funnet opp sjakk på en annen planet. Men vi må huske på at ett døgn for mennesker kan være mye rart inni en datamaskin. DeepMind – og alle store teknologiselskaper – har tilgang til ufattelig store beregningsressurser. Dagens versjon av AlphaZero har perfeksjonert sjakkevnene sine gjennom 44 millioner spilte partier. Det hadde tatt måneder på en datamaskin de fleste av oss har råd til å kjøpe.

Det AlphaZero lærte seg gjennom sine 44 millioner spill, var i bunn og grunn å utvikle intuisjon der DeepBlue trengte menneskeskapte algoritmer og regnekraft. AlphaZero plukker ikke ut neste sjakktrekk, men bestemmer hvilke trekk den mener er verdt å se nærmere på. Basert på denne utvelgelsen bestemmes deretter neste trekk ved hjelp av samme type tresøk som DeepBlue og Stockfish gjør. AlphaZero kombinerer altså en slags maskinell intuisjon for sjakk med maskinell beregningsevne. Det anslås at de beste menneskelige sjakkspillerne klarer å gjøre hundrevis av søk på det aller meste – altså se for seg maksimalt hundrevis av mulige fremtidige spill. Stockfish og andre tradisjonelle sjakkcomputere gjør i dag millioner av søk, mens AlphaZero, takket være sjakk-intuisjonen den har lært seg frem til, «kun» trenger å gjøre titusenvis av søk per stilling.

Det som kanskje gjør AlphaZero mest interessant, er at den har utviklet en ikke-menneskelig spillestil. For mens tradisjonelle sjakkcomputere er basert på menneskelig ekspertkunnskap, har AlphaZero lært å spille sjakk gjennom å spille fritt. Under treningen spiller den hva enn den selv anser for å være det mest lovende trekket. Derfor har den klart å oppdage strategier vi mennesker ikke vet om, og menneskelige sjakkspillere kan lære noe av å spille mot maskinen. Etter min mening er dette blant det beste vi kan oppnå innen kunstig intelligens: Maskiner som lærer oss noe nytt og verdifullt. I så måte har sjakken blitt noe mer enn et laboratorium for intelligens: Spillet har gitt maskinene anledning til å demonstrere at de gjennom prøving og feiling kan tilegne seg kunnskap vi mennesker ikke har, og ikke kan gi dem.

Maskinenes tid

Føler vi nå, i en verden der AlphaZero har utviklet intuisjon for sjakken, og dessuten oppdaget strategier i sjakken som vi mennesker ikke engang vet om, at ekte kunstig intelligens har oppstått? De fleste jeg kjenner, vil svare nei på dette spørsmålet. Hvorfor det, når våre kunstige sjakkmestere er så gode at vår egen Magnus Carlsen lærer av dem? Kanskje sjakkboksing kan illustrere følelsen. For ja, sjakkboksing finnes på ekte. Sporten inneholder, som du kanskje gjettet, både boksing og sjakk, og man kan vinne enten gjennom å gi motstanderen deng, eller ved å slå motstanderen i sjakk-betydningen av ordet. Og vi vet at en datamaskin som kjører sjakkprogrammet AlphaZero, hverken har en kropp eller anledning til å reise seg opp, ta på seg boksehansker og gå inn i en ring. AlphaZero er liksom «bare» et dataprogram, med et smalt sett av evner. Den kan spille, men den vet jo ingenting om verden – i alle fall ikke på samme måte som vi mennesker skjønner at vi lever i en stor verden full av problemer som ikke har noe med sjakk å gjøre. Så langt har ingen maskin fått anledning til å stille mot et menneske i en sjakkbokseturnering, men det er nok heller av etiske grunner enn av praktiske. Maskiner som kan slå mennesker i svime, finnes allerede. Vi kunne absolutt tatt en av Boston Dynamics’ humanoide roboter, som imponerer oss på YouTube-videoer hvor de slår salto og spretter gjennom hinderløyper, lastet opp en versjon av AlphaZero til datamaskinen deres, og brukt dem til både sjakkspill og boksing. Men hva hadde vi hatt da? Jo, da hadde vi hatt en kombinert bokse-sjakkspill-robot. Hadde den vært intelligent og tilpasningsdyktig på samme måte som et menneske? Nei, det ville fremdeles manglet noe. Det er ikke godt å si hvor mange maskinelle evner vi måtte kombinert før vi hadde følt at maskiner begynte å nærme seg menneskelig evne til generalisering.

Dette betyr likevel ikke at maskiner er oss mennesker underlegne, for det er ikke lenger vi menneskene som sitter på den intellektuelle tronen. Innen utgangen av 2018 hadde datamaskiner slått oss i de fleste spill: Sjakk, Texas hold’empoker, og mindre kjente spill som shogi, go, og Dota 2. Sistnevnte er et veldig populært og ikke minst komplisert multiplayerspill som kjempes ut online med lag bestående av flere spillere, som må planlegge sammen og lure motstanderne sine. Den 6. juni 2018 klarte flere kunstig intelligente spillere for første gang å samarbeide om å slå et lag menneskelige spillere. Den betryggende nyheten er at disse kunstig intelligente spillerne også er villige til å jobbe på lag med menneskelige spillere, altså å være partnere i stedet for motstandere. Grunnen til at maskiner vinner over oss i spillene våre, er ikke at de har et iboende ønske om å utkonkurrere mennesker: Maskiner beseirer oss fordi vi ber dem om det. Det er ikke maskinene, men skaperne deres, altså forskere som jeg selv, som jobber og står på for at maskinene skal utkonkurrere mennesker på alle områdene vi kommer over. En eventuell frykt vi måtte ha for maskiners handlinger, er derfor grunnleggende sett én av to ting: Det er enten en frykt for menneskers ønsker, eller en frykt for vår manglende forståelse av hva vi ber maskinene om. Som forsker innen kunstig intelligens er jeg ikke bekymret for at maskinen min kan ha en skjult motivasjon for å slå meg i et spill. Jeg er bekymret for noe helt annet.

Vi lever i den største storhetstiden innen kunstig intelligens så langt. De siste årene har vi sett teknikker fra kunstig intelligens løse oppgaver stadig bedre, og fremgangen har føltes nærmest ustoppelig. I 2017 var AlphaZero det mest skjellsettende innen kunstig intelligens, men på få år har dette endret seg. Kunstig intelligens har virkelig funnet veien ut av lab-en, og man trenger ikke å forske på kunstig intelligens for å merke fremgangen: Når du låser opp telefonen med ansiktet ditt, er det fordi telefonen din har lært seg hvordan du ser ut, selv om du endrer frisyre, søvnmønster eller belysning. Når du ikke klarer å slutte å skrolle på et sosialt medium, er det fordi plattformen har lært seg hvordan den må tilpasse seg til dine preferanser for å holde på oppmerksomheten din. Når du leser en tekst, kan du ikke vite om det er et menneske eller en maskin som står bak. Og når en av Amazons varehusarbeidere i USA får sparken, er det godt mulig at det er en maskin som tar beslutningen. For kun få år siden slet de beste chatbotene med å holde en intelligent samtale gående. I dag brukes kunstig intelligente språksystemer til å forfatte propaganda, skrive artikler og utvikle dataspill, og chatboter kan underholde mennesker i timelange diskusjoner. Høsten 2022 smuglet en kunstner et bilde skapt av et kunstig intelligent program inn i en kunstkonkurranse, og maskinen endte opp med å gå av med seieren uten at noen av dommerne ante ugler i mosen. Kunstig intelligente systemer har gått fra klumsete til overmenneskelige på få år.

Samtidig er vi mange forskere som mener at kunstig intelligens ikke er i nærheten av å oppnå hverken bevissthet eller generell intelligens. At selv de beste chatbotene er mekaniske papegøyer som resirkulerer hva enn vi har fôret dem med, og at den virkelige utfordringen ikke er at vi kommer til å dele kloden med en annen intelligent rase, men heller at vi er omgitt av systemer som forsterker våre egne fordommer. Men uansett om kunstig generell intelligens er langt, langt frem i tid, er kunstig intelligent teknologi allerede på god vei inn i samfunnet, livet og lommene våre. Om få år kan det hende at de fleste bildene du ser på internett, er skapt av maskiner, og at mange av dialogene du fører online, har kun ett menneske i seg. Og at teknologibedriftene påvirker politiske strømninger gjennom velplasserte argumenter på sosiale plattformer så vel som godt betalte lobbyister i Brüssel. Derfor tror jeg at grunnleggende kunnskap om kunstig intelligens fort vil bli avgjørende for å kunne forstå mye av hva som skjer i livet vårt, og for å kunne delta aktivt i den offentlige debatten om hvordan vi vil at denne teknologien skal påvirke samfunnet vårt.

La oss starte ferden med å lytte til Voltaire, som sa: «Definer begrepene dine, ellers vil vi aldri forstå hverandre.»15 Og det aller første vi må bli enige om, er en forkortelse: Selv om vi på norsk snakker om kunstig intelligens, og det naturligste i verden hadde vært å forkorte dette til «KI», er det mange i Norge som bruker forkortelsen «AI» – inkludert meg selv. Og det er på tross av at jeg fikk streng beskjed av en minister under Arendalsuka i 2019 om at «i Norge sier vi KI!». Forklaringen er at mange som jobber på feltet, har programmert kunstig intelligens siden før politikere og myndigheter begynte å snakke om temaet. Vi har snakket om artificial intelligence med forskere fra andre deler av verden, har lest bøker om artificial intelligence på engelsk og har alltid brukt forkortelsen AI. Og fordi jeg er en av disse slitsomme rebellene, heter det kunstig intelligens, med forkortelsen AI i denne boken.

Så, hva er kunstig intelligens? Vår egen nasjonale strategi for kunstig intelligens, som vi har hatt siden daværende digitaliseringsminister la den frem i januar 2020, bruker definisjonen: «Kunstig intelligente systemer utfører handlinger,