Dr. Omar Hatamleh (NASA) over wat de AI- revolutie betekent voor de wereldeconomie

IMPACT VAN AI: 'WE BETREDEN HET DECENNIUM VAN DE SCIENCE FICTION’

In een uniek webinar bespreekt Dr. Omar Hatamleh (NASA) wat de AI-revolutie betekent voor de wereldeconomie.

Tekst Jeppe Kleyngeld

Op woensdag 11 maart organiseerde de M&A Community, in samenwerking met Improved Corporate Finance en Drake Star Partners, een hele speciale webinar met Dr. Omar Hatamleh, Technology Integration Manager bij NASA, adviseur bij Drake Star Partner en auteur van het boek Between Brains: Taking Back our AI Future. In dit interactieve interview besprak M&A-redacteur Willem van Oosten met Omar hoe kunstmatige intelligentie (AI) de wereldeconomie het komende decennium zal beïnvloeden. Wat betekent het voor grote industrieën, zoals onder meer de mobiliteit en gezondheidszorg? Welke grote verstoringen kunnen we in de nabije toekomst verwachten?

Laten we beginnen bij de basis. Wat is jouw visie op kunstmatige intelligentie? Kunstmatige intelligentie, zoals ik het zie, is een poging om bepaalde kenmerken van menselijke intelligentie na te bootsen met computerwetenschap. Het is niet nieuw; we hebben het hier al over sinds de jaren 50’. Maar recentelijk is race naar steeds betere AI pas echt ingezet. Dat komt door een aantal zaken. De algoritmes zijn steeds geavanceerder met deep layers, multiple layers, interconnectivity en neural networks. Daardoor worden we steeds beter in het gebruiken van de verschillende elementen van kunstmatige intelligentie. Om die complexe algoritmes in te zetten hebben we meer computerkracht nodig. Met de opkomst van GPU's (Graphics Processing Units) zijn we in staat duizenden berekeningen op hetzelfde moment te maken. De game industrie heeft die ontwikkeling versneld en opgeschaald, waardoor de kosten veel lager zijn geworden. Het derde wat je nodig hebt is data en wat er vandaag beschikbaar is, is meer dan we ons ooit hebben voorgesteld. Per dag produceren we met zijn allen 250.000 bibliotheken aan data. Maar data op zichzelf betekent niks. Het is random. Hoe zetten we het om in iets bruikbaars?

Er zijn verschillende fasen in de ontwikkeling van kunstmatige intelligentie. We zitten nu in de fase weak of narrow AI. De volgende fase waar we nu op afstevenen is general intelligence. In die fase bereikt de computerkracht het niveau van menselijk denken. En dan in ongeveer 20 tot 25 jaar gaan we het hebben over super arti cial intelligence. Daar worden dingen erg interessant en opwindend, want we hebben geen idee met welke uitdagingen we dan allemaal te maken krijgen. Een van de vragen die ik mezelf stel is: blijven de randvoorwaarden die we vandaag hebben overeind of gaat super intelligence afwijken van de fundamenten?

Deze vraag stel je ook in je boek ‘Between Brains’ over hoe we met AI om kunnen gaan. Recentelijk heeft jouw organisatie NASA de Perseverance op Mars weten te landen, beelden die de hele wereld hebben gefascineerd. Hoe kijk je naar de inzet van AI in de ruimtevaartindustrie? Perseverance is een voorbeeld van waar het naar toe gaat. Het is ongelofelijk complex om een voertuig op miljoenen kilometers afstand te landen op een planeet met compleet andere condities dan de aarde. Op aarde kunnen we bijvoorbeeld een parachute gebruiken, maar een conventionele parachute is in de atmosfeer van Mars niet bruikbaar. Ook is het zo dat hoe verder je weg bent van aarde, hoe langer het duurt voordat signalen terugkomen. Afhankelijk van waar in de baan Mars en de Aarde zitten kan het van 20 tot 40 minuten duren voordat een signaal heen en weer is gestuurd. Dat maakt dat we compleet afhankelijk zijn van kunstmatige intelligentie om situaties te beheersen en risico's te vermijden. We zullen steeds verder de ruimte ingaan en dus zal autonomie van AI steeds meer centraal komen te staan. We zullen AI ook inzetten voor navigatie en medische zorg. AI kan diagnoses stellen en de fysieke en mentale staat van de astronauten monitoren. Ook gaan we zelfl erende 3D-printers inzetten. AI is onderdeel van ieder aspect van de ruimtevaart.

Het valt me op dat je AI niet ziet als een los iets, je noemt ook 3D-printing en medische zorg, het is echt een ecosysteem waarin alles verbonden is. Klopt, en het mooie is dat vandaag de dag applicaties in alle industrieën toepasbaar zijn. Neem 3D-printing. Eerst gebruikten we het vooral voor onderdelen. Nu is het ook in te zetten voor huizen, voedsel, kleding, organen en ga zo maar door. Deze ontwikkelingen gaan enorme impact hebben op alle aspecten van ons leven. Dat geldt ook voor AI: dat heeft grote implicaties voor alles. Iedere industrie, ieder proces, iedere persoon.

In je werk ben je veel bezig met de sector mobility. Kun je meer vertellen over hoe die twee samengaan? AI en mobility. In de mobility-sector gaat het ongelofelijk hard met de ontwikkeling van AI. In autonome voortuigen zie je bijvoorbeeld een heleboel technieken samenkomen. Je hebt de Lidar, een radar in de vorm van een laser. HD-camera's om objecten in de omgeving te identifi ceren. In een fractie van een seconde moet het systeem een berekening maken en op grond daarvan zijn actie bepalen. Kortom, de complexiteit is extreem groot. Een van de leukste aspecten is collectief leren. Als ik een boek of artikel lees, ben ik individueel aan het leren. Als een autonome auto leert, leren meteen alle auto's die van hetzelfde bedrijf zijn. Hierdoor gaan de ontwikkelingen exponentieel. Een van de grootste blokkades zijn de ethische implicaties. Bijvoorbeeld, voor wie telt veiligheid het sterkste? Mensen in de auto, mensen buiten de auto, een jong persoon, een oud persoon? Wij moeten die extreem lastige ethische vragen oplossen, een computer gaat dat niet zelf doen. Wie is bereid deze vragen op te lossen? Het is heel uitdagend. En het moet op wereldwijde schaal gebeuren. Je kunt het niet in ieder land anders gaan doen.

Kunnen de overheden en de toezichthouders de snelheid waarmee de ontwikkelingen nu gaan nog bijhouden? Het is duidelijk dat de overheid betrokken moet zijn bij alle aspecten van deze technologische ontwikkelingen. Er moet een balans zijn. Bij teveel wetten en regels verstik je misschien innovatie. Maar teveel

loslaten kan tot grote problemen leiden. Een goed voorbeeld is visual recognition. Er zijn nauwelijks richtlijnen voor. Het lastige voor overheden is dat het erg lang duurt om nieuwe regels te implementeren. En technologie gaat juist super snel. Tegen de tijd dat je een beleid hebt geformuleerd is de technologie alweer vervangen. Hoe blijven deze instellingen voor op de ontwikkelcurve? De overheid moet manieren vinden om snelle aanpassingen te kunnen doen en te zorgen voor regelgeving die nodig is, zonder daarbij innovatie dwars te zitten.

Het is een dunne lijn dus. We hebben het gehad over ruimtevaart en kunstmatige intelligentie. Welke gebieden gaan nog meer te maken krijgen met de impact van AI? Ik kan er geen een bedenken die er niet mee te maken krijgt. Een heel belangrijk voorbeeld is de medische sector. Met de opkomst van AI in die sector kun je vaccines en nieuwe medicijnen produceren. Neem antibiotica die door geavanceerde algoritmes van MIT ontwikkeld werd. Want hoe meer antibiotica we gebruiken, hoe meer resistent bacteriën ertegen worden. Dus moeten we nieuwe klassen antibiotica ontwikkelen. Algoritmes kunnen dat. Wat ik vooral interessant vind is dat algoritmes voorspellingen kunnen doen over de toekomst. Je voert de AI data en het bedenkt trends waar wij nog niet eens aan gedacht hebben. Stel, je laat een AI data van miljoenen mensen zien over enzymen, proteïnen, bloed-analyse, et cetera, dan kan een algoritme voorspellen of en wanneer een ziekte zich gaat manifesteren.

Er is veel discussie over hoe snel deze ontwikkelingen gaan, wat is jouw mening daarover? Wanneer kan ik mijn rijbewijs het raam uitgooien? Of het over vijf, tien of vijftien jaar is vind ik niet zo relevant. Kijk naar de evolutie van het menselijk ras, die is al 350.000 jaar bezig. Het gaat gebeuren, dat is zeker. Of dat vijf jaar eerder of later is maakt niet veel verschil. We kijken naar trends en zien dat het eraan komt. Het komende decennium wordt in ieder geval het decennium van de science fi ction. We gaan vliegende drones zien, vliegende taxi's, zelfrijdende auto's, krachtige AI, 3D-printers, medische ontwikkelingen, noem maar op. De levensverwachting van mensen zal hierdoor ook snel toenemen. Als je vandaag geboren wordt, is de levensverwachting al 100 jaar of ouder.

Wat voor type skills heb je nodig om hiermee om te gaan? Allereerst moeten we zorgen voor een brug tussen opleidingen en industrieën. Als je nu vier jaar studeert is de technologie die er aan het begin van je studie was alweer verouderd, zo snel gaat het. Dus ben je niet op de hoogte van wat er gebeurt in het bedrijfsleven. We moeten het curriculum dus veel sneller gaan aanpassen en meer dialoog voeren tussen opleidingen en verschillende industrieën. Wat we allemaal voor onszelf moeten doen is adaptief zijn en continu aan leren. En bereid zijn verschillende keren van carrière te switchen. Er zijn ook onderscheidende menselijke kwaliteiten die AI niet kan nabootsen, tenminste niet in de nabije toekomst. Dat zijn skills als kritisch denken, creativiteit, emotionele intelligentie en innovatie. Banen met veel herhaling zijn de eerste die vervangen zullen worden. In de volgende fasen gaan intelligente machines ons helpen onze banen beter te doen. In de derde fase zullen machines mensen compleet kunnen vervangen.

Daarmee betreden we economisch terrein. Als je kijkt naar hoe onze economie nu georganiseerd wordt, wat wordt de grootste impact? Ik kijk graag naar de toekomst en de voorspellingen van de Verenigde Naties over onder andere de wereldpopulatie. Deze voorspellingen komen neer op 10 miljard mensen tegen het jaar 2050. Dat is gebaseerd op conventionele modellen waarin de bevolking van Europa krimpt, China stabiliseert, en Afrika sterk stijgt. Waar de modellen geen rekening mee houden zijn opkomende technologieën. Bijvoorbeeld op het gebied van veroudering. We leren niet het proces terug te draaien, maar wel het te vertragen of stoppen. We ontwikkelen medicijnen

tegen de meest dodelijke ziektes. AI leert ziekten te voorkomen voordat ze ontwikkelen. Over vijftien jaar hebben we nano-robots die je immuunsysteem kunnen versterken. Dat allemaal bij elkaar maakt dat we straks tenminste 20 of 30 jaar ouder worden. Dus we gaan sterk over de 10 miljard heen schieten. Dat is het eerste. Tegelijkertijd, hoe geavanceerder onze technologie, hoe minder mensen nog onderdeel van de arbeidsmarkt uitmaken. Het huidige model past dus totaal niet meer. We hebben een model nodig dat wel overeind blijft bij deze gigantische verschuivingen die eraan komen.

Wat als een mega tech company, zoals Google, als eerste super intelligentie ontwikkelt en daarmee in staat is bedrijven in alle sectoren eruit te concurreren. Hoe voorkomen we het risico op zo'n super monopolie? In het boek zeggen we ‘in wiens beeltenis is het model gebouwd'’ Want degene die het produceert, bepaalt wiens waarden en belangen het vertegenwoordigt. Daar komt de rol van wet- en regelgeving kijken om monopolies te voorkomen. De ‘black box’ van AI moet misschien wel ge-audit gaan worden. Als iets mensen wereldwijd en de maatschappij als geheel beïnvloedt, dan hebben we misschien gereguleerde audits nodig om er zeker van te zijn dat het binnen de democratische waarden blijft die we belangrijk vinden. Deze issues moeten we blijven adresseren.

Ben je optimistisch dat dit nu het geval is? Van wat ik zie gebeuren ben ik optimistisch. Er is veel interesse in deze gebieden. Er is veel potentieel. Het gaat alle aspecten van ons leven beïnvloeden, dus het is logisch dat veel mensen betrokken raken en kijken hoe we het kunnen laten werken voor ons allemaal.

En hoe zit het met overheden die AI inzetten om burgers op een extreme manier te monitoren, is daar wat tegen te doen? Helaas komt technologie met voor- en nadelen. De sleutel naar het succesvol benutten van het potentieel van AI is een balans vinden waarmee de voordelen sterk overheersen op de nadelen. Kijk bijvoorbeeld naar de algoritmen die we hebben. Het is mogelijk iemand te brainwashen via social media. Kijk naar deep fakes die steeds realistischer worden. Stel je voor dat de CEO van een bedrijf nepnieuws brengt dat het aandeel doet instorten. Tegen de tijd dat men doorheeft dat het een deep fake is, is het al te laat. Dat zijn grote gevaren. Tegelijkertijd zijn er enorme voordelen te realiseren voor de mensheid op het gebied van educatie, zorg en mobiliteit.

Je bent betrokken bij Drakestar Partners en je ziet verschillende velden ontwikkelen en samenwerken in de ontwikkeling van AI. Zie je nieuwe manieren ontstaan waarop de overheid, bedrijven en investeerders anders samenwerken door de AI-revolutie? Het leuke van venture capital is zien wat startups aan het doen zijn. Dat is een van de redenen dat ik adviseur ben geworden. Het helpt me te begrijpen wat er across the board gebeurt. Maar het type partnerships verandert snel. Overheden, academische instanties, de private sector. Dat is niet eerder gebeurt. Neem bijvoorbeeld de samenwerking tussen SpaceX en NASA. Wij leveren veel kennis en training, en bij SpaceX doen ze ongelofelijke, innovatieve dingen. Ze doen dingen sneller en goedkoper. Samenwerking tussen grote corporates en startups is het model van de toekomst. •

Over Dr. Omar Hatamleh

Omar heeft meer dan twintig jaar ervaring in de luchtvaartindustrie en heeft meer dan 30 artikelen gepubliceerd in prestigieuze wetenschapsuitgaven. Hij is een veelgevraagd spreker op nationale en internationale evenementen. Omar is ook de auteur van Between Brains: Taking Back our AI Future. Een boek dat de impact van kunstmatige intelligentie en technologie op de toekomst van banen, ethiek, technologieën en economieën onderzoekt. Bij de wereldwijde technologie-, media- en communicatie-investeringsbank Drake Star Partners is Omar Senior Advisor in de verticale mobiliteits- en AI-programma's van de investeringsfi rma.

BRAVE NEW WORLD: DE DUISTERE RANDJES VAN ONZE DIGITALE TRANSFORMATIE

De CFO Day 2021 staat in het teken van de dark side of technology. Zijn we echt klaar voor de impact en de gevaren van de digitale transformatie die gaande is?

Tekst Jaime Donata Beeld Christiaan Drost

Over de voordelen die ‘de digitale transformatie’ met zich meebrengt voor CFO’s, wordt veel geschreven. Wekelijks verschijnen er blogs, krantenartikelen en whitepapers over het automatiseren van repetitieve fi nanciële processen waardoor we allemaal meer tijd overhouden voor mooie zaken als business partnering en hogere vormen van datamining, waarbij intelligente algoritmes doorwrochte fi nanciele en strategische inzichten kunnen creëren uit de steeds aanzwellende hoeveelheid data. Slimme IT en automatisering stellen ons in staat om met een druk op de knop complexe forecasts te maken die fi nancieel risicomanagement naar dimensies belooft te brengen die we nog niet eerder hebben gezien.

Tot zover het goede nieuws. Want met alle ongekende mogelijkheden die de digitale transformatie brengt - en met name ook de snelheid waarmee innovatie zichzelf op de hielen ziet - wordt het ook steeds ingewikkelder om de complexiteit van de nieuwste technieken te begrijpen en de gevaren die het met zich meebrengt te doorgronden. Niet alleen in de fi nanciële wereld – maar eigenlijk op alle terreinen van ons leven. De voordelen zijn zo overduidelijk: tijdswinst, gemak, geld. Met steeds groter gemak leggen wij onszelf erbij neer dat we ‘onmogelijk alles kunnen snappen’. We zijn namelijk geen ICT’er. Loert het gevaar dat we op zeker moment helemaal geen grip meer hebben op de risico’s van een samenleving die iedere dag meer vervlochten raakt met een digitale parallelwereld?

Keep Calm and…

Het risico van onze toenemende afhankelijkheid van technologie en IT kent grofweg twee smaken. Het eerste risico hebben we min of meer zelf in de hand: de mate waarin wij onze menselijke beslissingen laten bepalen door Artifi cial Intelligence (Ai) en Big Data.

Het Toeslagen-schandaal wordt in Nederland regelmatig genoemd als voorbeeldcasus waarin de menselijke maat volledig werd ondergesneeuwd door een perverse manier van omgaan met data en statistiek. Een correlatie tussen het plegen van toeslagenfraude en het hebben van een Bulgaars paspoort, leidde tot een geautomatiseerde fraudescreening van Nederlanders met een migratie-achtergrond waarbij ieder foutje in een aanvraagformulier werd behandeld als een geval van oplichting. Het blind varen op verkeerd geïnterpreteerde meta-data had afschuwelijke gevolgen: gebroken gezinnen, verwoeste levens – kinderen die zijn opgegroeid in armoede. Maar er zijn meer voorbeelden van uit de hand gelopen vertrouwen op ‘slimme techniek’. Berucht is de blunder van Amazon dat een scripted programma gebruikte om zinnen te geneareren voor t-shirtvariaties op ‘Keep Calm and… ’, tot het moment dat er T-shirts op de website verdwenen met de tekst ‘Keep Calm and Rape A Lot’. Tegelijkertijd schuilt ook in de ‘menselijke controle over IT’ een ander nachtmerriescenario. Te midden van onze totale afhankelijkheid van IT en technologie – eigenlijk in alle dimensies van onze fysieke wereld – hebben we als samenleving nog geen antwoord op de vraag: wat als ‘onze’ IT in handen komt van criminelen en vijandige staten die onze samenleving doelbewust ondermijnen, of wanneer we in eigen land te maken krijgen met een politiek regime dat het niet zo op heeft met onze democra-

tische waarden? De digitale transformatie en de impact die het heeft op onze fysieke wereld brengt risico’s met zich mee die zo reëel en zijn dat we ze misschien helemaal niet willen zien.

Artifi cial Intelligence gone wrong

Maar terug naar de slimme algoritmes – een gevaar dat we misschien nog wel in de hand hebben. Wie een half uurtje googelt op ‘big data blunders’ heeft leesvoer voor dagen – van de 16.000 verdwenen Covid-fi les bij de Public Health Engeland door een database die automatisch fi les verwijderde vanaf een bepaald maximum, tot medische algoritmes die ‘people of colour’ een lager gezondheidsrisico toeschrijft op basis van ‘in het verleden gemaakte zorgkosten’ in plaats van op hun daadwerkelijke klachten. Ook de fi nanciële sector is niet veilig voor Articial Intelligence gone wrong. Bekend is de ‘fl itscrisis’ in 2010 waarbij binnen enkele minuten duizend miljard dollar aan aandelenwaarde verdampte door onbedoelde interacties tussen machines. Of neem de Dow Jones Newswire. In 2017 werd automatisch een bericht de wereld in gestuurd over de aankoop van Apple door Google – een fake nieuwtje dat louter bedoeld was voor een technische test. Maar de geautomatiseerde handelsrobots reageerden binnen milliseconden, met grote gevolgen voor de aandelenkoersen. Frank Verbeeten, hoogleraar aan de Faculteit Economie en Bedrijfskunde aan de UvA houdt zich onder meer bezig met de invloed van technologie op de inrichting en de rol van de fi nanciële functie binnen organisaties. Welke risico’s ziet hij in het blind varen op slimme algoritmes? Verbeeten: “Het is algemeen bekend dat het werken met algoritmes zich er in kan uiten dat bepaalde groepen in analyses worden bevoordeeld, of benadeeld. Google ziet het zelfs als een van de grootste problemen bij het werken met data. Een bekend voorbeeld hiervan komt uit de Amerikaanse rechtspraak waarbij werd vastgesteld dat afro-Amerikanen en Amerikanen met een Mexicaanse achtergrond onevenredig zwaar werden gestraft wanneer je alleen algoritmes toe zou passen.”

Correlatie en causaliteit

Eigenlijk zit het risico niet zozeer in de techniek zelf maar in de ‘menselijke fout’ niet goed genoeg na te denken over statistiek. Het verschil tussen causaliteit en correlatie, wordt volgens Verbeeten te vaak te weinig begrepen: terwijl dat juist heel belangrijk om te maken als je gaat werken met data en algoritmes: “Wij hebben weleens een case gehad in een college waarin werd gekeken naar verlieslijdende bouwprojecten en het aantal wisselingen van projectleiders. De controller in de zaal concludeerde op basis van de correlatie tussen mislukte projecten en het aantal wisselingen van projectleider, dat de oplossing van het probleem lag in minder projectleiders wisselen. Toen vroeg ik of er ook iemand in de zaal zat uit de bouw om te vertellen wanneer men

wisselde van projectleider. Het antwoord: zodra een bouwproject in de soep loopt.” Algoritmes zijn goed in het analyseren van data, maar oorzaak en gevolg uit elkaar houden is al lastig. Financials met een goed inzicht in de business kunnen daarom een belangrijke rol spelen in het toepassen van Artifi cial Intelligence Verbeeten: “Je kunt data alleen echt goed analyseren als je ook werkelijk kennis hebt van het onderliggende proces. Als je dit vertaalt naar de rol van de fi nanciële organisatie binnen een bedrijf, dan zie je direct hoe belangrijk het is om kennis te hebben van business wanneer je werkt met data. De data scientists hebben die businesskennis in principe niet, ze zitten te ver van het operationele proces af. Als het goed is heeft de fi nancial niet alleen gevoel voor cijfers, maar ook inzicht in de werkelijkheid achter de cijfers.”

Verpletterd door algoritmes

Volgens Verbeeten valt er nog wel een slag te maken in het bewustzijn van de fi nancial rondom de maatschappelijke risico’s van data en digitalisering. De UvA-faculteit houdt met enige regelmaat surveys onder fi nancials over de digitale transformatie. In 2020 nog werden 120 CFO’s en andere fi nancials ondervraagd over de issues die zij ervaren op het gebied van digitalisering. Verbeeten: “Wat je ziet is dat ethische vraagstukken over wat er met data gebeurt tamelijk onderaan de prioriteitenladder staan. CFO’s maken zich vooral druk over vraag of hun organisatie wel data-driven genoeg is. Het opschalen van data-automatisering en het koppelen van data uit verschillende silo’s staat hoog op het problemenlijstje van de CFO. Het controleren van de maatschappelijke consequenties als de machine eenmaal aan de praat is, wordt nog niet helemaal overzien. Daar ligt wel een probleem in de toekomst.” De fi nancial staat overigens niet alleen in zijn onbekommerdheid als het gaat om de gevaren van Ai. Recent nog kwam het Impact Centre Erasmus verbonden aan de Erasmus Universiteit Rotterdam naar buiten met een onderzoek uitgevoerd onder 100 Nederlandse MVO-professionals: Verpletterd door algoritmes. Ruim 75 procent van de ondervraagde organisaties en bedrijven bleek geen visie te hebben op ‘ethisch datamanagement’.

Cybercrime: geen issue voor fi nance?

Een andere opvallende uitkomst van het UvA-onderzoek onder fi nancials: ook het onderwerp cybersecurity staat relatief laag op de prioriteitenladder. Verbeeten vermoedt overigens dat security-bewustzijn wel leeft, maar dat men er op vertrouwt dat ‘IT het wel regelt’ - een gevaarlijk idee volgens Verbeeten: “De fi nance afdeling heeft beschikking over veel data - en als het gaat om ‘eigenaarschap’ van data, zie je dat er binnen bedrijven meestal voor wordt gekozen wordt om het eigenaarschap van data in de specifi eke functie te laten.” Verbeeten kent zelf weinig grote ‘specifi ek fi nanciële’ IT-security issues die het nieuws hebben gehaald. Een harde verklaring heeft hij hier niet voor, al werpt hij op dat data over operationele processen misschien interessanter is voor hackers dan hardcore fi nanciële data zoals het jaarverslag. Toch is data-security volgens Verbeeten zeker wel een issue dat de fi nancial en de fi nanciële wereld raakt – zij het indirect. De fi nanciële schade die wordt veroorzaakt door cybercrime en ransomware is namelijk levensgroot. In 2017 presenteerde Deloitte een groot onderzoek naar de schade die digitale misdaad toebrengt aan de Nederlandse economie. Die schade werd toen geschat op 10 miljard euro per jaar. En daarmee zijn we aanbeland bij het andere duistere randje van onze Brave New World: het digitale gevaar dat niet zozeer ligt bij ‘autonome algoritmes’, maar bij mensen van vlees en bloed die ‘onze’ IT - en onze afhankelijkheid ervan - gebruiken om onze wereld te ontwrichten.

Voorbereiden op digitale ontwrichting

Wie de Nederlandse journalist Huib Modderkolk de afgelopen jaren heeft gevolgd en zijn verhalen echt goed tot zich laat doordringen, heeft meegekregen dat het rampscenario van digitale ontwrichting door hackers en spionnen helemaal geen dystopische toekomstmuziek is, maar een hyperrealistische werkelijkheid, hier en nu. In

zijn bestseller “Het is oorlog, maar niemand die het ziet” schetst Modderkolk het gitzwarte beeld van een mondiale cyberoorlog, die al meer dan 15 jaar woedt tussen Iran, Rusland, China en het NAVO machtsblok. Een confl ict waarin Nederland een niet onbelangrijke rol speelt vanwege onze betrokkenheid bij de allereerste gecombineerde cyber-aanval op een Iraanse kerncentrale in 2007. Modderkolks boek is geschreven als een journalistieke spionage-thriller, maar een wat minder James Bond-achtige versie van zijn waarschuwing lees je terug in het adviesrapport dat in 2019 is geschreven door de Wetenschappelijke Raad voor Regeringsbeleid (WRR): Voorbereiden op digitale ontwrichting, waarin niet alleen de toenemende risico’s worden geschetst van onze afhankelijkheid van IT, maar ook een aantal praktische lijnen worden uitzet om als samenleving robuuster te worden. Inmiddels zijn we twee jaar verder, maar Corien Prins, voorzitter van de WRR en hoogleraar Recht en Informatisering aan de Universiteit van Tilburg ziet dat de urgentie van het rapport alleen maar is toegenomen: “Onze afhankelijkheid van IT is alleen nog maar groter geworden door Corona. Je moet je niet willen voorstellen wat er met de samenleving gebeurt als er nu een grote disruptie plaatsvindt.” De grote dreiging zit volgens Prins niet alleen in de professionalisering van georganiseerde cybercriminelen, maar ook in de digitale verwevenheid van eigenlijk al onze organisaties, ketens en netwerken: “Van onze waterkeringen en onze energievoorzieningen, tot de toeleveringsketens - alles is IT. Hoe kun je dat op een zinvolle manier afbakenen? Wie neemt hierin de regie? Over dit soort vragen hebben wij in ons onderzoek aan aantal aanbevelingen meegegeven aan het kabinet.”

Misdaad of oorlogshandeling?

Erik Schrijvers, senior stafl id van de WRR, ziet dat er sinds een half jaar mondjesmaat gevolg wordt gegeven aan de aanbevelingen: “Niet alleen de Rijksoverheid, maar ook de VNG gaat er nu mee aan de slag. De ransomware aanval op de gemeente Hof van Twente eind vorig jaar heeft daar ongetwijfeld een rol in gespeeld. De gemeente die weigerde om losgeld te betalen - en bouwt nu de hele IT infrastructuur opnieuw op. Maar zoiets kost geld – veel geld. Dat helpt andere gemeenten om de urgentie te voelen.” Zowel Schrijvers als Prins zien dat steeds meer organisaties nadenken over het managen van hun IT-afhankelijkheid. Prins: “Nederlandse universiteiten zijn onlangs bij elkaar gaan zitten om te kijken van wie ze eigenlijk afhankelijk zijn op het gebied van IT en daar kwam naar voren dat bij sommige toepassingen veel Nederlandse universiteiten voor 80 procent draaien op Microsoft. Zoiets maakt kwetsbaar – dat zagen we onlangs weer met de hack van Exchange. Ook CEO’s en CFO’s van bedrijven zouden wat ons betreft ook meer moeten kijken naar hun IT, misschien wel samen met inkoop. Wat zijn voorwaarden waaraan je bedrijfsinfrastructuur moet voldoen om robuust te zijn in het geval van digitale ontwrichting? Het is echt een boardroom issue, niet voor de toekomst, maar voor nu.” Verzekeraars spelen hier ook een interessante rol volgens Schrijvers: “Bij kleine ransomware-aanvallen zeggen verzekeraars vaak: betaal het losgeld maar, dat is goedkoper dan je hele IT te vernieuwen. Maar cybercriminelen betalen lost het probleem niet op. En bij aanvallen met grote schade - of wanneer er sprake lijkt te zijn van vervlechting tussen misdaad en operaties van geheime diensten - ligt het al weer complexer.” Een bekend voorbeeld hiervan is de NotPetya ransomware aanval uit 2017 waarover nog steeds een verzekeringszaak loopt rondom de vraag in hoeverre de Russische geheime dienst achter de hack zat, of niet. Schrijvers: “Verzekeraars weigeren schade door cybercrime uit te betalen wanneer er volgens hen sprake is van een ‘oorlogshandeling’.”

Economische spionage

Dat er - niet alleen in de toekomst, maar ook hier en nu - enorme securityrisico’s kleven aan onze digitale transformatie, kan iedereen iedere dag lezen in alle kranten. Het probleem is niet zozeer het gebrek aan

kennis, maar vooral de omvang en complexiteit van onze digitale infrastructuur. Wie neemt de regie in een probleem dat zich met de dag muteert, zo snel dat we eigenlijk geen idee hebben waar te beginnen aan een oplossing? Zowel bedrijven als overheden lopen niet vooraan om hun probleem op de publieke agenda te krijgen. De reden van bedrijven om incidenten onder de pet te houden: het voorkomen van reputatieschade. Maar ook overheden en geheime diensten willen incidenten graag zo lang mogelijk uit de media te houden, om vijandige geheime diensten niet in de kaart spelen in hun doel: maatschappelijke en economische ontwrichting. Het gevolg is dat cybersecurity vaak een schaduwgevecht achter de schermen blijft. Volgens Ronald Prins, oprichter van netwerkbeveiliger FOX-IT en expert op het gebied van cybersecurity, hebben we een enorm probleem: “Wat we in de krant lezen is het topje van de ijsberg. Ook economische spionage is een toenemend probleem, zeker voor Nederland. We lopen hier voorop in research en development, op alle terreinen – van zaadveredeling en scheepsbouw tot bio-technologie. En die kennisindustrie is geld waard, maar alleen als we onze kennis ook kunnen verkopen. Dat laatste wordt lastig wanneer technologische innovatie onder je neus wordt weggepikt door hackers, of door overheden zelf. Digitale spionage is echt een sluipmoordenaar voor bedrijven die miljoenen investeren in onderzoek dat vervolgens via een digitaal achterdeurtje wordt doorverkocht. Het valt minder op dan ran- somware, maar een aantal sectoren hebben het nu echt op hun netvlies, gewoon omdat ze merken dat hun hightech kennis opeens opduikt bij partijen die het niet zelf hebben ontwikkeld.” Volgens Prins is de waarheid hard: “Soms moet je eerst klappen krijgen om wakker te worden.”

Klappen vangen

Als klappen vangen en leergeld betalen de enige manier is om te dealen met de dark side van technologie, dan is de grote vraag: hebben we inmiddels al genoeg klappen gehad? Michiel Steltman, directeur van de stichting Digitale Infrastructuur Nederland (DINL) denkt van niet – maar is op de grote lijnen niet pessimistisch. Hij pleit al jaren voor meer openheid van zaken omtrent cybercrime en vindt het bijvoorbeeld onverteerbaar dat het Nationaal Cyber Security Centrum (NCSC), dat onder Justitie en Veiligheid valt, bedrijven die niet zijn aangewezen als ‘vitale organisaties’, niet mag waarschuwen als er aanwijzingen zijn dat ze bedreigd worden. Hierdoor zijn volgens Steltman vorig jaar nog een paar Nederlandse bedrijven onnodig gehackt. Toch denkt hij dat gematigd optimisme gepast is: “Zodra je als bedrijf je stekker in het internet steekt ben je direct verbonden met alle misdadigers in de wereld. Als je dat beseft, is het wonderbaarlijk hoeveel er goed gaat. Ik vergelijk het met de industriële revolutie. Daar heeft het ook een eeuw geduurd voordat we - met veel vallen en opstaan - de risico’s een beetje onder ogen zijn gaan zien. Dat zal met de digitale revolutie net zo gaan. Aan de andere kant… als ik kijk naar de nieuwe EU-regelgeving die op dit moment in de maak is om burgers beter te beschermen tegen de toepassingen van Ai, zie ik ook een groeiend bewustzijn. Je merkt dat er een zekere volwassenheid komt in het besef van de risico’s. Uiteindelijk is niet techniek het gevaar, maar de manier waarop wij er als mens mee omgaan. Dat geldt ook voor een broodmes, een auto, of een balpen…”

De mens als zwakste schakel in de Brave New World - is dat uiteindelijk de meest realistische manier om te kijken naar de dark side van de digitale transformatie? Het zou in ieder geval wel helemaal in lijn zijn met de Brave New World zoals Aldous Huxley hem in 1932 beschreef in zijn gelijknamige roman. •