Wie is er verantwoordelijk als een zelfrijdende auto een groep fietsers onderuit rijdt? Niemand nog die hier het antwoord op heeft. Is de fabrikant schuldig? Het team dat de software schreef? De eigenaar van de auto? Of misschien wel het automatische systeem van de auto zelf? Wie zal het zeggen?
In een kort geding tegen een robot probeert Robot Love een discussie over deze vragen op gang te brengen. Het is volgens de organisatie van belang dat we als samenleving gaan nadenken over de rechten van robots. Zeker nu er steeds meer vormen van kunstmatige intelligentie verschijnen die de tussenkomst van mensen overbodig maken. Hoe ver moeten we gaan met het toekennen van rechten aan robots?
Het kort geding tegen de robot is onderdeel van het event Robot Love, dat van 15 september tot 2 december in de oude Campinafabriek in Eindhoven plaatsvindt. Lees hier meer.
Tijdens het proces dat op 4 oktober plaatsvindt, daagt een bordeelhoudster een seksrobot voor de rechter. De robot dreigt persoonlijke informatie van een gewelddadige bezoeker op social media te plaatsen, de bordeelhoudster vreest voor reputatieschade en via de rechter probeert ze te voorkomen dat de robot het verhaal op internet plaatst.
Hub Dohmen, advocaat gespecialiseerd in IT en IP-zaken, verdedigt de robot tijdens het proces. Dohmen is opgeleid als techneut en ‘spreekt’ hierdoor twee talen. Hij ziet dat het rechtssysteem worstelt met de snelle vooruitgang van verschillende AI-systemen. Het is volgens hem onmogelijk te voorspellen waar het heengaat met deze techniek, maar dat wil niet zeggen dat we het onderwerp links moeten laten liggen. Hoe doet hij dat, een robot verdedigen? Dohmen: “Hiervoor moeten we in het proces een kunstgreep toepassen. We gaan ervan uit dat de robot een aparte rechtssubjectiviteit heeft.”
Dohmen legt uit dat er momenteel twee rechtssubjecten zijn: natuurlijke personen: mensen, en rechtspersonen, waar een BV bijvoorbeeld onder valt. In het robotproces komt hier dus nog een derde vorm bij: die van robots. Of zoals Dohmen het noemt: “de kunstmatige entiteit.” In deze rechtsvorm heeft een robot rechten en plichten, net zoals mensen of bedrijven dat hebben, maar niet per sé dezelfde. Robots zouden hiermee in staat moeten zijn om bijvoorbeeld hun eigen onderhoud te bestellen of kunnen aansprakelijk gesteld worden wanneer ze schade veroorzaken. Als een persoon iets kapot maakt moet hij betalen, de beslissingsbevoegdheid van een BV ligt bij de directeur, maar de BV moet betalen. Er is dus altijd één persoon aan te wijzen die ‘erachter zit’. Maar hoe zit dat dan bij robots?
Dohmen: “Ook bij een BV kun je niet zeggen dat een directeur alles beslist. Verkopers mogen spullen verkopen, HR neemt personeel aan. Daarvoor hoeven ze geen toestemming aan de directeur te vragen, dat zou een onwerkbare situatie opleveren. Kijk wat er nu binnen ING speelt: een topman stapt op onder grote druk van de publieke opinie. Maar je zou ook naar de laag eronder kunnen kijken. Wisten zij wat er speelde? Kun je hen aanwijzen als personen die achter de koers zaten? Bij kunstmatige intelligentie of robots is de software door een persoon geschreven. Maar door alle data die het systeem verzamelt verandert het programma, daar komt niet altijd een mens aan te pas. Het verschil tussen een BV en een robot is dus niet zo groot als het lijkt.”
Dohmen geeft toe dat robots op dit moment (nog) geen zelfstandige beslissingen kunnen maken. Maar hij benadrukt dat het robotproces geen luchtfietserij is. Hij doelt hiermee op een voorstel eind 2017 van de Juridische commissie van de EU om robots een bepaalde vorm van rechten te geven. “Over dit voorstel is nog veel onenigheid. Er is veel angst voor robots, overigens niet onterecht. We weten immers niet waar het heengaat. Het is niet ondenkbaar dat ongeschoolde arbeiders, maar ook rechters of advocaten in de toekomst worden vervangen door robots. Tegenstanders schetsen een science-fiction verhaal dat gestoeld is op emotie. Hier moeten we van wegblijven, we moeten naar de feiten kijken. Tegelijkertijd zou die angst juist een stimulans moeten zijn om op alle gebieden: technisch, filosofisch en juridisch, goed geïnformeerd te zijn. Door nu al te denken over verschillende mogelijkheden, komen we niet voor verrassingen te staan.”
Dohmen denkt niet dat robotrechten over één nacht ijs gaan: “Het is geen zwart-wit kwestie waar je kunt zeggen aan de ene kant heb je de mens en die heeft alle rechten en plichten en aan de andere kant van de schaal heb je robots. Zo werkt het niet, het ligt ingewikkelder dan dat. Met deze rechtszaak willen we dit debat naar een hoger niveau brengen.”
Het kort geding staat onder leiding van Mr Willem Korthals Altes. Hij werkte als advocaat, was docent aan de Universiteit van Amsterdam en is al ruim 22 jaar actief als rechter. Voor zaken als deze bestaat nog geen wetgeving, dus aan Korthals de lastige taak om hierover een oordeel te vellen.
Als je dit artikel leuk vindt, lees dan ook:
