Alleen een wereldwijde wet voor gedragsregels die gelden voor robots en het gebruik van kunstmatige intelligentie kan de mensheid beschermen tegen bruut misbruik ervan, zei directeur Carlo van de Weijer van het Eindhoven AI Systems Institute tijdens de High Tech Next informatiedag van afgelopen week. Hoe zo’n wet van de grond moet komen is echter nog de vraag.

Het meest voor de hand liggend is dat de Verenigde Naties zo’n wet zouden maken. Dat is de enige wereldregering die we hebben en die zoiets zou kunnen doen. „Het staat daar ook op de agenda. Alleen is niet elk land lid van de Verenigde Naties”, zei Van de Weijer. Dus hoe dat probleem op te lossen is? „Niemand die het weet.”

Als zo’n wereldwijde wet voor AI er zou komen zou het een „enorm pak papier” worden, volgens Van de Weijer. „Met de omvang van een bijbel.”

Drie regels voor robots

In het verleden zijn door futuroloog en science fictionschrijver Isaac Asimov drie regels opgesteld die in de wetenschap nog steeds opgeld doen. De eerste is dat een robot mensen geen letsel mag toebedienen, en moet voorkomen dat een mens letsel oploopt. De tweede regel is dat de robot moet luisteren naar de mens, behalve als dat hem in conflict brengt met de eerste regel. De derde regel is dat de robot zichzelf moet beschermen behalve als dat tegen de eerste en tweede regel ingaat.

Hoewel die regels duidelijk zijn, worden deze al lang niet meer door iedereen gerespecteerd. „Dat punt zijn we naar mijn inzicht al voorbij”, aldus Van de Weijer.

Schietende drones

Van de Weijer legde het publiek aan de hand van You Tube filmpjes uit wat er kan gebeuren als mensen misbruik maken van AI, zoals door middel van drones die gezichtsherkenning gebruiken om een mens te doden. Dat filmpje was gebaseerd op fictie maar desondanks niet iets om vrolijk van te worden.

In een ander filmpje liet hij zien hoe de mens bediend kan worden door een zelfrijdende auto die uitgerust is met camera’s en voortdurend  filmt wat er in de omgeving gebeurt. Stel dat Google in de toekomst eigenaar wordt van 1 procent van dit soort auto’s, dan krijgen zij een enorme informatiepositie, zei Van de Weijer.

Lees hier de columns van Carlo van de Weijer voor Innovation Origins

Dat komt door alle data die de auto’s onderweg en op hun parkeerplaatsen verzamelen. Die zijn veel geld waard, en die kunnen ze verkopen.

Privacy verkopen aan autoleverancier

Nadeel hiervan is dat de passagiers en bestuurders privacy verliezen. Dat geldt dan overigens ook voor de mensen die zich in de omgeving van de auto bevinden. Die worden ook gefilmd terwijl ze daar niet om gevraagd hebben en dat waarschijnlijk niet eens zullen weten.

Carlo van de Weijer van het EAISI vertelt over de zelfrijdende auto die is uitgerust met filmcamera’s

Tot nu toe is zo’n auto voor consumenten nog niet op de markt. Maar het is niet uit te sluiten dat ze er in de toekomst wel komen. Er is in theorie een model voorstelbaar waarbij consumenten in ruil voor het afstaan van data ‘gratis’ in de auto mogen rijden, zei Van de Weijer. Gratis staat tussen aanhalingstekens omdat het niet echt gratis is. De consumenten die op een dergelijk aanbod ingaan, verkopen immers hun privacy.

Wie bewaakt de robots?

Van de Weijer voorziet een leidende rol voor de AI-industrie in Eindhoven op het gebied van mensvriendelijk ingeregelde AI en robotica. Daar is niet alleen veel behoefte aan. Er is ook ruimte voor.

Grootmachten China en de VS investeren weliswaar veel kapitaal in de ontwikkeling van nieuwe AI, zei Van de Weijer. Maar hoe die AI gebruikt wordt, bepaalt de regering van China top-down. Daar maken ze geen regels waar de rest van de wereld iets aan heeft. In de VS bepaalt de markt – Google en Facebook – hoe AI gebruikt wordt. Deze bedrijven zijn er in de regel op uit munt te slaan uit data van consumenten waardoor hun belangen niet altijd beschermd zijn tegen misbruik daarvan.

In Eindhoven zouden regels voor verantwoord gebruik van AI ontwikkeld kunnen worden die voor de rest van de wereld als voorbeeld kunnen dienen.