HCSS

Figuur 1

Robots en Autonome Systemen bij Defensie

Het The Hague Centre for Strategic Studies (HCSS) publiceert jaarlijks meerdere studies rond de thema’s geopolitiek, Defensie en veiligheid. In deze Militaire Courant licht Michel Rademaker, een medewerker van HCSS, een onderzoek uit.

Robots en Autonome Systemen (RAS) voor militair gebruik ontwikkelen zich snel. Er bestaat dan ook al jaren belangstelling van krijgsmachten voor RAS. Het gebruik en de toepassing van dergelijke systemen in experimenten en echt gebruik in grondgebonden operaties van de Nederlandse krijgsmacht is echter relatief nieuw. Sinds 2018 heeft de 13de Lichte Brigade een experimentele RAS-eenheid om systemen te onderzoeken en te testen. Daarbij is begonnen met veldexperimenten en onderzoek naar het militaire gebruik. Vragen die daarbij spelen zijn: Wat zijn eigenlijk de militaire toepassingen? Wat is autonomie eigenlijk? En welke ethische en juridische overwegingen spelen bij de inzet? Autonomie beschrijft het niveau van onafhankelijkheid dat mensen een systeem geven om een taak uit te voeren. Om zelfsturend een toegewezen taak te kunnen volbrengen is situationeel bewustzijn (geïntegreerd waarnemen en analyseren), planning en besluitvorming nodig. Autonomie onderscheidt daarbij verschillende niveaus van automatisering waarbij de autonome besluitvorming is afgestemd op een specifieke missie, het risiconiveau en de mate van mens-machine-teaming. Bijgaande figuur toont de verschillende vormen van autonomie gecombineerd met de verschillende missies.

Betekenisvolle controle

Het ‘autonome’ deel van RAS is het meest besproken onderdeel. Een cruciaal begrip is daarbij ‘betekenisvolle menselijke controle’ (Meaningful Human Control, MHC). Het formele Nederlandse standpunt is dat ‘alle wapens, ook autonome wapens, onder betekenisvolle menselijke controle moeten blijven’. Er is echter geen internationaal aanvaarde definitie. MHC omvat (minstens) de volgende drie elementen: • Mensen nemen weloverwogen, bewuste beslissingen over het gebruik van wapens; • Mensen worden adequaat geïnformeerd om ervoor te zorgen dat het gebruik van geweld in overeenstemming is met het internationaal recht, binnen de reikwijdte van de kennis die zij hebben over het doel, het wapen en de context waarin het wapen wordt ingezet; • Het betreffende wapen is ontworpen en getest in een realistische operationele setting en de betrokkenen hebben een adequate training gekregen om het wapen

DECEMBER 2021 – 33 HCSS

op een verantwoorde manier te gebruiken. In veel gevallen is de bovenstaande beschrijving niet afdoende. Ook is het vaak gebruikte onderscheid tussen human-in-the-loop, human-on-the-loop en humanout-of-the-loop niet voldoende. Deze termen verwijzen naar de relatie tussen een niet-gespecificeerde mens en een niet-gespecificeerde beslissingsketen, terwijl in werkelijkheid verschillende mensen betrokken zijn bij de verschillende stadia van ontwerp tot en met inzet. Ook de complexiteit van de machine en het type beslissing spelen mee.

Publieke opinie

De framing ‘killer robot’ heeft de publieke opinie over RAS verengd tot de inzet voor dodelijk geweld door vergaand of volledig autonome systemen. In werkelijkheid kan RAS worden toegepast op tal van militaire functies en taken, met verschillende niveaus van autonomie in elke functie. De brede militaire toepasbaarheid van RAS biedt enorm veel kansen. De uitdaging voor de komende jaren is om deze kansen optimaal te benutten en tegelijkertijd de risico’s te verkleinen. Om de toegevoegde waarde van RAS te testen en te meten, moet worden vastgesteld waarvoor deze systemen nuttig zijn. Het moet daarbij niet gaan om innovatie om te innoveren, maar om tastbare, waarneembare resultaten. Om het militaire nut te bepalen zijn er verschillende criteria.

Experimenteren

Een wijs besluit van de landmacht was om de RAS-experimenteereenheid op te nemen binnen de operationele 13e Lichte Brigade, in plaats van bij een opleidings- en trainingseenheid of in een centre of excellence. Hierdoor kan voor en met de toekomstige eindgebruikers worden geëxperimenteerd en directe feedback worden verkregen. Een regulier infanteriepeloton is door de brigadecommandant aangewezen om de experimenten uit te voeren. Dit zogenaamde RAS-peloton staat onder tactisch bevel van de RAS-experimenteereenheid. Op basis van de kennis en ervaring van de afgelopen anderhalf jaar heeft de aanpak geleid tot drie ontwikkellijnen. Het doel van de eerste is om eind 2022 een operationeel experiment uit te voeren in een militair relevante omgeving. De tweede gaat om het verder uitvoeren van kort-cyclische experimenten en de derde is de (in-huis-) ontwikkeling van kunstmatige intelligentie (AI) om de stap te maken van op afstand bestuurbare naar meer autonome systemen. Deze ontwikkelingen richten zich op de gevechtsfuncties. Hoewel het minder controversieel zou zijn om met logistiek te beginnen, ligt het monopolie op het gebruik van geweld bij de overheid en daarmee de verantwoordelijkheid om goed gecontroleerd en verantwoord onderzoek op dit gebied te doen en RAS military proof maken. Bij gevechtsfuncties is dan ook domeinkennis nodig om zo in nauwe samenwerking en gecombineerd met technische expertise uit het bedrijfsleven en universiteiten te experimenteren. Dit gaat de komende jaren steeds verder ingezet worden.

Het formele Nederlandse standpunt is dat ‘alle wapens, ook autonome wapens, onder betekenisvolle menselijke controle moeten blijven’

Wilt u meer weten over dit onderwerp, ga dan naar: www.hcss.nl/ robotic-and-autonomous-systems-ras/

Figuur 2