116 Robotica-experts uit 26 landen hebben in een open brief aan de Verenigde Naties gevraagd om een algeheel verbod op de inzet van vechtrobots in de oorlogvoering. De autonome wapens die ontwikkeld worden op basis van kunstmatige intelligentie zijn een gevaar voor de mensheid, zo waarschuwen ze. Een terechte en meer dan welkome oproep, zo zegt TU/e-docent Lamber Royakkers.
Royakkers houdt zich bezig met de maatschappelijke, juridische en ethische vraagstukken van nieuwe technologische ontwikkelingen. Hij doet momenteel onderzoek naar nieuwe militaire toepassingen, zoals militaire robots, dat zijn onbemande systemen voor militaire doeleinden. In dat onderzoek staat de volgende vraag centraal: In hoeverre is het wenselijk dat bewapende militaire robots worden ingezet die zelfstandig kunnen beslissen over leven en dood?
“De nieuwe robot-wapenwedloop is al in gang.”Lamber Royakkers, TU/e
In een interview met “Met het Oog op Morgen” noemt Royakkers de brief “een heel goed initiatief”, zeker omdat het nu eens niet afkomstig is van ethici zoals hijzelf, maar van de experts zelf. “Het zijn de bedrijven zelf die nu op de rem gaan staan van hun eigen ontwikkeling. Ze zien de gevaren ervan in.”
Killer robots zijn volgens Royakkers geen vaag toekomstbeeld. “We zijn nu al in staat om robots en drones autonoom beslissingen te laten nemen. Kijk naar hoe dat gaat in Afghanistan, daar vinden geheel autonome aanvallen plaats op mensen. Die drones beschikken over een zwarte lijst met telefoonnummers van terroristen en herkennen zelfstandig de bijbehorende simkaart. Het enige dat vervolgens nog vanuit een militaire bunker ergens in Texas of zo gebeurt is daadwerkelijk op de knop drukken.”
Royakkers noemt het een ‘verantwoordelijkheidskwestie’: wie kan uiteindelijk verantwoordelijk worden gehouden voor een oorlogsdaad? “De nieuwe robot-wapenwedloop is al in gang. Als we dit zonder regels toelaten, dan loopt het de spuigaten uit. China doet het, de VS doen het, Europa ook. En het is allemaal open source technologie, dus als we dit verder gaan ontwikkelen, dan kan het ook nog eens makkelijk in handen van terroristen vallen. Daarnaast zijn deze drones met beetje kennis door terroristen te hacken. Daarmee is het hek echt van de dam.”
Er is twijfel over het nut van een algeheel verbod door de Verenigde Naties. Bestaande techniek kan tenslotte niet “onuitgevonden” worden. Royakkers vindt een verbod desondanks van belang. “Vergelijk het met het verbod op chemische wapens, dat heeft ook effect gehad. Het betekent in elk geval een rem op de verdere ontwikkeling. Zo’n brief is daarbij wel een belangrijk signaal: het is 2 voor 12. Publiek en politiek beseffen niet half hoe snel robotica en kunstmatige intelligentie gaan. Juist daarom is dit initiatief zo goed. We mogen dit niet op z’n beloop laten.”
Als je dit artikel leuk vindt, lees dan ook:
