Quote

‘Kiezen voor AI heeft consequenties’ VAN BELKOM ONDERZOEKT DE GEVOLGEN VAN ARTIFICIËLE INTELLIGENTIE

Artificiële intelligentie (AI) moeten we niet langer be

schouwen als één technologie. Beter kunnen we AI zien

als een ecosysteem van samenwerkende technologieën,

stelt Rudy van Belkom van de Stichting Toekomstbeeld der

Techniek (STT). ‘Eerst zag ik AI nog als iets spannends, maar

langzaamaan ben ik veel nuchterder geworden.’

QUOTE

Iedereen heeft het over artificiële intelligentie, maar tegelijkertijd weten we er nog bijzonder weinig over. Hoe gaat AI zich in de toekomst ontwikkelen en welke gevolgen heeft dat voor de manier waarop we onze samenleving hebben ingericht? Onderzoeker Rudy van Belkom doet voor Stichting Toekomstbeeld der Techniek (STT) anderhalf jaar lang onderzoek naar AI. De centrale vraag waarop hij een antwoord hoopt te vinden: op welke manier en in welke mate gaat AI in de toekomst onze besluitvorming beïnvloeden? ‘AI is misschien wel een van de meest gehypete, maar minst begrepen technologieën van dit moment.’

U zegt dat AI ‘gehypet’ wordt: vindt u dat we de invloed van AI overschatten? ‘Ik denk dat we de impact van AI op de korte termijn overschatten en op de langere termijn juist onderschatten. De overschatting zit vooral in de schrikbeelden die ons worden voorgespiegeld; dat we door AI onze banen zullen verliezen, omdat intelligente robots alles gaan overnemen. Maar de experts die ik heb gesproken achten het zeer onwaarschijnlijk dat zoiets ooit zal gebeuren. Tegelijkertijd onderschatten we de sluimerende implicaties van AI op de lange termijn. Toepassingen die we nu allemaal zonder blikken of blozen accepteren kunnen onvoorziene gevolgen hebben. Denk bijvoorbeeld aan de inzet van data bij de berekening van verzekeringspremies. Goed gedrag wordt beloond. Dat

klinkt onschuldig, maar op de langere termijn kan hierdoor een ‘kastensysteem’ ontstaan, waarin mensen op basis van hun data worden ingedeeld in groepen die ze nauwelijks nog kunnen ontstijgen. Dat heeft tot gevolg dat er kansenongelijkheid ontstaat. Systemen kunnen hierbij zo complex worden dat wij ze als mensen niet langer begrijpen. Ongewenste gevolgen zijn hierdoor nauwelijks nog omkeerbaar. In plaats van general AI gone bad, is het narrow AI everywhere.’

Is het wel overschatting? Computers zijn al beter in schaken. ‘Voor computers is zo’n spel een fluitje van een cent. Elke zet is immers uitstekend te berekenen en juist dat kunnen computers veel beter dan wij. Ons brein is niet gemaakt om te rekenen, en dus zijn we veel te snel geneigd om een systeem dat dat wél kan

‘Kiezen voor AI heeft consequenties’

intelligent te noemen. Maar als een peuter een man in een toneelstukje met een stapel boeken tegen een dichte kastdeur ziet lopen, dan zal het kind op basis van onder meer empathie en gezond verstand intuïtief kunnen inschatten wat de bedoeling van de man is en de kastdeur voor hem openen. Voor een computer is zo’n simpele opdracht juist extreem moeilijk. Het aantal mogelijke oplossingen is namelijk bijna oneindig. Ik vind het daarom niet relevant om de mogelijkheden van een computer te vergelijken met menselijke intelligentie. AI benadert niet eens een fractie van waartoe ons brein allemaal in staat is.’

Maar is dat niet een kwestie van tijd? Computers worden immers steeds slimmer. ‘Het idee van artificiële intelligentie dateert al uit de jaren vijftig. Vanaf dat moment is men zich bezig gaan houden met het kopiëren van de menselijke intelligentie. In het eerste deel van mijn studie, gepubliceerd onder de titel Duikboten zwemmen niet, concludeerde ik al dat het verkeerd is om te veronderstellen dat computers zouden moeten denken als mensen. Net zoals duikboten niet zwemmen als vissen en vliegtuigen niet vliegen als vogels. De echte vooruitgang in de luchtvaart kwam pas tot stand toen men het idee van fladderende vleugels losliet, en begon in te zien welke krachten ervoor zorgen dat vogels in de lucht blijven. Om te kunnen vliegen, moesten we de krachten begrijpen en nabootsen, niet de exacte manier van vliegen. Ondanks honderd jaar aan hersenonderzoek begrijpen we nog altijd niet goed hoe ons brein werkt. Het is onbegonnen werk om dat te willen kopiëren. Menselijke intelligentie behelst bovendien empathie, iets waar computers niet toe in staat zijn, en heeft ook een sociaal aspect dat computers ontberen. Daar komt nog bij dat het menselijk intellect weliswaar zeer vernuftig en bijzonder is, maar bepaald niet foutloos. We zouden het niet eens moeten wíllen nabootsen, want dan zouden we die fouten alleen maar uitvergroten. Laten we vooral streven naar een AI die complementair is aan ons eigen brein.’

AI is een veelomvattend onderwerp. Hoe heeft u het onderzoek aangepakt? ‘Onze onderzoeken gaan nooit alleen over technologie, maar ook over de invloed ervan op de maatschappij. Dat geldt ook voor dit onderzoek. AI zie ik niet zozeer als technologie, maar als een ecosysteem van samenwerkende technologieën. Ik besloot te onderzoeken hoe AI besluitvorming zal beïnvloeden. Het resultaat bestaat uit drie delen, waarvan de eerste twee inmiddels zijn verschenen (op de website detoekomstvan.ai; red.). Het eerste deel bestaat uit een technologische forecast. Wat is AI, wat kan het en wat zal het in de toekomst kunnen? Ik sprak daarvoor met allerlei experts uit het veld. In het tweede deel borduur ik daarop voort. Als AI dat allemaal zou kunnen, wat voor samenleving kan dat dan opleveren? In het derde deel ga ik in op de morele aspecten: wat voor samenleving willen we eigenlijk en welke rol kan AI daarin spelen?’

AI is te vaak een ‘black box’, zeggen critici. Is volledige transparantie een voorwaarde voor een succesvolle inzet van AI? ‘Naar mijn inzicht komt die scepsis grotendeels voort uit het feit dat het allemaal nog zo nieuw is. We zullen echter steeds vertrouwder raken met intelligente systemen en toepassingen en dat zal ertoe leiden dat we minder de behoefte krijgen ze te controle

We stappen probleemloos in de auto, zonder exact te begrijpen hoe die werkt. Bij AI lijken we dat wel per se te willen weten.

ren. Rekenmachines gebruiken we allemaal, maar wie rekent nog weleens na of het apparaat de som wel op de goede manier heeft uitgerekend? Niemand. Of neem de auto. Ik stap zonder probleem achter het stuur, zonder eerst de werking van de motor te willen doorgronden. Ik vertrouw erop dat de auto goed functioneert. Zo’n auto is immers goed getest, hij wordt niet zomaar op de markt toegelaten. Voor AI zou hetzelfde moeten gelden, al begrijpen de expers ook niet alles. Waarom willen we daar wel per se “onder de motorkap” kijken? Als een AI-systeem betrouwbaar functioneert, dan zal ik niet schromen het te gebruiken, ook als ik het niet volledig doorzie. Ik vermoed dat veel mensen daar op termijn net zo over zullen denken.’

Is uw eigen mening over AI veranderd sinds u begon aan het onderzoek? ‘Toen ik een jaar geleden met mijn onderzoek begon, zag ik AI nog als iets heel spannends. Alsof AI het vermogen heeft om de maatschappij een utopische of juist dystopische toekomst te bezorgen. Ik was gevoelig voor die hype, maar gaandeweg ben ik veel nuchterder geworden. Ik heb met veel ontwikkelaars gesproken en hoe dichter bij de bron je komt, des te realistischer het beeld wordt. De mensen die zelf de codes schrijven, hechten ook weinig geloof aan die extreme toekomstbeelden.’

We praten over AI als iets dat de maatschappij overkomt. Is dat wel terecht? ‘Dat vind ik een goed punt en daar zal ik in het derde deel van mijn studie vooral op ingaan. De toekomst overkomt ons niet, maar die creëren we zelf,

op de manier waarop we dat met elkaar willen. Als we met z’n allen, inclusief China en de VS, stoppen met de ontwikkeling van slimme algoritmen, dan zullen we een AI-vrije toekomst hebben. Zo simpel is het. Dat is weliswaar niet erg realistisch, maar het is ook niet uit te sluiten. Ook in andere domeinen komt het voor dat technologische mogelijkheden door de wetgever aan banden zijn gelegd. Zo mogen we geen mensen klonen.’

‘Privacy wordt een luxe product, wat voor een oneerlijke verdeling in de samenleving zal zorgen’

Welk scenario acht u wel realistisch? ‘Veel mensen staan nu zonder blikken of blozen hun data af. Zo leest vrijwel niemand de algemene voorwaarden bij het installeren van een nieuwe app. Ik verwacht dat mensen er op termijn achter zullen komen dat deze data ook tegen ze worden gebruikt. Hierdoor zullen tegenreacties ontstaan, waarbij mensen er veel geld voor over hebben om van de radar te verdwijnen. Privacy wordt een luxe product, wat voor een oneerlijke verdeling in de samenleving zal zorgen. Maar voor de duidelijkheid: bij STT doen we verkenningen, geen voorspellingen. Ik schets in mijn studie vijf uiteenlopende toekomstscenario’s, in de wetenschap dat de toekomst vermoedelijk iets van al die vijf scenario’s in zich zal hebben en dat keuzes die we nú maken consequenties hebben voor de toekomst. Het doel is om te laten zien dat er meer wegen zijn die naar Rome leiden, al weten we op AIgebied nog niet eens waar Rome precies ligt.’ |