Als we denken aan robots in het leger, dan overheerst vaak al snel de angst van autonoom schietende drones en voertuigen die zich voortbewegen zonder tussenkomst van mensen. Dat is volgens Jeroen van der Vlugt, Chief Information Officer bij het Ministerie van Defensie, nog maar een klein onderdeel van AI bij Defensie. Bovendien ligt dat nog ver in de toekomst, als het al ooit zover komt. In Europa is namelijk vastgelegd dat AI nooit wordt ingezet voor dodelijke activiteiten en dit geldt ook voor Defensie. Er is hier altijd menselijke supervisie over de systemen. Dat neemt niet weg dat andere landen wel op een andere manier kunnen experimenteren met de technologie. “We doen er daarom wel onderzoek naar om kennis op te bouwen”, zegt Van der Vlugt.
Van der Vlugt ziet nog veel meer mogelijkheden voor robots, AI en datascience bij Defensie. Autonome robots kunnen bijvoorbeeld werk doen dat voor mensen gevaarlijk is. Denk aan het zoeken naar bermbommen of verkenningsmissies in vijandelijk gebied.
Nederlandse AI-Coalitie
Zoals de hersenen nog steeds het meest ongrijpbare deel van ons lichaam zijn, zo is artificiële intelligentie nog altijd het onontdekte land. Dat onze hersenen ons lichaam aansturen hebben we als mens wel geaccepteerd. Dat geldt niet voor de manier waarop AI stap voor stap de regie over onze samenleving overneemt. Daar voeren we graag nog een paar stevige debatten over. In een serie reportages en interviews laat Innovation Origins in nauwe samenwerking met de Nederlandse AI Coalitie zien wat de gemiddelde Nederlander merkt van deze alles bepalende maatschappelijke revolutie. Hoe houden we als mens de vingers aan de knoppen? De angsten, de kansen, de dilemma’s.
Data
Slimme voertuigen en drones verzamelen op die manier een grote hoeveelheid data. Door verschillende analyses kan hier nieuwe informatie uitgehaald worden die eerder verborgen bleef. “Dat is echt iets van de laatste jaren”, zegt Van der Vlugt. “Eerder hadden we niet de sensoren om data te verzamelen en niet de rekenkracht om deze te verwerken.” Dat geldt natuurlijk niet alleen voor Defensie, maar ook voor andere bedrijven en organisaties. Van der Vlugt was voor zijn functie bij Defensie jarenlang actief in het bedrijfsleven. Hij werkte onder andere bij KPN en Atos. “Ik ben bewust overgestapt naar een organisatie met meer maatschappelijke relevantie”, zegt hij. Al ziet hij zeker gelijkenissen.
Digitalisering in stappen
“Het proces van digitalisering en de opkomst van AI is bij Defensie niet anders dan bij bedrijven”, stelt hij. Het begint volgens de CIO bij de digitalisering van bestaande processen op kantoor waardoor het bestaande werk makkelijker en sneller kan worden gedaan. Denk bijvoorbeeld aan video-meetings en het automatisch archiveren van bestanden. De tweede stap is het benutten van nieuwe kansen door digitalisering. Algoritmen kunnen bijvoorbeeld onderhoud aan apparaten en voertuigen voorspellen. Dat zorgt voor tijdwinst en kostenbesparing. Daarnaast kan deze technologie zorgen voor efficiëntere logistieke processen.
De derde en laatste stap is een verandering in het primaire bedrijfsproces. “We kunnen bijvoorbeeld sneller militaire besluiten nemen op basis van alle verzamelde data”, zegt Van der Vlugt. Daarnaast zal de oorlogsvoering zoals we die nu kennen veranderen. “Nu gebruiken we bij een conflict vaak wapens die in de fysieke ruimte effect hebben, bijvoorbeeld bommen en kogels. Dat kan gaan verschuiven naar oorlog voeren in het cyberdomein. Bijvoorbeeld door met malware de vitale infrastructuren van een land aan te vallen.”
In die derde stap, de verandering van het primaire bedrijfsproces, zit wel degelijk een verschil tussen Defensie en bedrijven. Defensie is namelijk verantwoordelijk voor het beschermen van ons land. Hierbij hoort de mogelijkheid om oorlog te voeren. Er is geen andere organisatie in Nederland die zich daarmee bezighoudt. Deze complexe taak brengt veel ethische vraagstukken met zich mee. Ethische kaders zijn volgens de CIO heel belangrijk. “Als we AI inzetten, dan zorgen we altijd voor een afgebakende taak. Mensen geven altijd een bepaalde bandbreedte mee waarin de autonomie van het systeem mag plaatsvinden”, zegt Van der Vlugt. Zo kan het algoritme nooit iets gaan doen wat niet bij de taakomschrijving hoort.
Virtuele bescherming
Naast de digitalisering en vernieuwing van bestaande producten en processen, komt er een hele dimensie bij: het cyberdomein. “Dat is onontgonnen terrein”, stelt Van der Vlugt. “Wat ook weer gigantische ethische vraagstukken met zich meebrengt.” Nederland kan naast ter land, ter zee of in de lucht tegenwoordig ook in het cyberdomein aangevallen worden. Zo kunnen vitale onderdelen van de maatschappij zoals energievoorziening of telecommunicatie platgelegd worden met cyberaanvallen. Ook kan belangrijke informatie van de overheid of van grote bedrijven virtueel gestolen worden. Hoe gaan we ons hier tegen beschermen? Dat is een complexe vraag waarop nog geen duidelijk antwoord is.
Eén van de mogelijkheden is het inkomende en uitgaande dataverkeer controleren. Daar kan dan ook een betaling naar een webwinkel aan de andere kant van de wereld of een skypegesprek met een collega in het buitenland tussen zitten. Dat stuit op weerstand vanwege de privacy. “In Nederland gaat privacy boven statelijke inmenging”, zegt hij. “Terwijl in andere landen privacy juist ondergeschikt is.” Wat de situatie extra lastig maakt, is dat aanvallen in het cyberdomein vaak redelijk anoniem zijn. “Het is niet altijd duidelijk of het om een criminele groep of een statelijke actor gaat. Een combinatie, waarbij een criminele organisatie werkt voor een statelijke actor, is ook mogelijk”, gaat hij verder.
Taken
Het is ook nog onduidelijk welke organisatie verantwoordelijk wordt voor de virtuele bescherming van Nederland. Defensie is een optie, maar de politie of het ministerie van Justitie en Veiligheid zou ook kunnen. Al is Van der Vlugt er wel van overtuigd dat Defensie een rol gaat spelen in de virtuele verdediging. “Er moeten dan nieuwe wettelijke kaders komen voor de taken die wij uitvoeren”, vindt Van der Vlugt. Nu mag Defensie alleen in actie komen als daar vanuit de politiek, in sommige situaties het Parlement en in andere gevallen het bevoegd gezag, opdracht voor is gegeven.
Technologie voorop
Zijn we niet al te laat met het maken van dergelijke wettelijke kaders? De technologie om landen in het cyberdomein aan te vallen bestaan immers al. “Technologie loopt altijd voor op wetgeving”, stelt Van der Vlugt. “We hebben ook eerst auto’s gebouwd voordat we dachten dat verkeersregels en -wetten ook handig zouden zijn. Dat geldt ook voor cybertechnologie. Er waren eerst nucleaire wapens en daarna zijn er pas internationale regels opgesteld inzake proliferatie.”
Moet het met de cyberaanvallen niet een keer gigantisch mis gaan voordat we actie gaan ondernemen? “Als we niks doen, dan gaat het op een gegeven moment een keer goed mis”, stelt hij. “Ook dat zien we vaker. Er gebeurde ook eerst een watersnoodramp voordat we goede dijken en deltawerken gingen bouwen. Terwijl we echt wel wisten dat we als land kwetsbaar waren op dat punt. We hadden een wake-up call nodig. Hopelijk is die wake-up call nu niet zo erg als de watersnoodramp.”
Verantwoordelijkheid
Voor een veilige virtuele omgeving zijn volgens Van der Vlugt niet alleen de politiek, maar ook bedrijven en burgers verantwoordelijk. Zij moeten zelf ook nadenken over gegevensbescherming en kunnen zelf ook voorzorgsmaatregelen nemen. “We moeten de deur niet wagenwijd openzetten voor criminelen om er met persoonsgegevens vandoor te gaan”, stelt hij. Bedrijven moeten volgens hem bijvoorbeeld goed nadenken over welke medewerkers toegang hebben tot welke gegevens. Ook individuen kunnen een steentje bijdragen, bijvoorbeeld door niet zomaar te werken op open wifi-hotspots en geen privacygevoelige informatie te delen op social media.
Door technologie wordt de wereld steeds kleiner en krijgen we steeds meer te maken met andere culturen. “We moeten erop voorbereid zijn dat andere landen anders met digitale wapens omgaan dan wij in Europa zouden willen. Als een staat bepaalde technologie op een negatieve manier inzet, dan moeten we daarop voorbereid zijn zodat we een antwoord hebben. Daarom moeten we daar wel veel onderzoek naar doen”, zegt Van der Vlugt.
“Een van de belangrijke aspecten van het hebben van een bepaald wapen is natuurlijk dat het andere landen afschrikt. Dat zagen we ook met nucleaire technologie. De hele wapenwedloop was gebaseerd op het feit dat landen weten dat als zij op een knop drukken om bepaalde wapens in te zetten, dat anderen dat ook kunnen doen. Dat kan met een cyberaanval net zo zijn.” De manier van oorlog voeren zal zich volgens Van der Vlugt steeds meer naar het digitale domein gaan verplaatsen. “Dat vraagt om een nieuwe aanpak.”
Als je dit artikel leuk vindt, lees dan ook:
