Afgelopen week praatten hoogleraren op het gebied van kunstmatige intelligentie van de Technische Universiteit in Eindhoven D66-kamerlid Kees Verhoeven bij over de laatste ontwikkelingen. Eén van hen was Wijnand IJsselsteijn, hoogleraar AI Humans and Technology. Innovation Origins was daarbij aanwezig en vroeg hem zijn mening over de discussie die op dit moment in Brussel gevoerd wordt over dit onderwerp. „Regelgeving is belangrijk”, aldus IJsselsteijn. „Maar we moeten ook investeren in mensgerichte, technische innovatie.”

Jullie hebben het niet gehad over de noodzaak van nieuwe wetgeving voor AI en robots terwijl het daar bij de besprekingen over het innovatiebudget voor AI en robotica van de Europese Commissie juist over ging. In België moesten ze een deel van een proef met robots stil leggen omdat er geen wetgeving was die deze mogelijk maakte. Onder andere de verzekerbaarheid van het risico van de robots voor de veiligheid van de omgeving waarin ook mensen werkten bleek niet te regelen. Binnen de Europese Commissie vinden ze dat er heel snel wetgeving moet komen die dit gemakkelijker maakt.

„Op zich ben ik het daarmee eens. Ik vind ook dat er wetgeving moet komen voor dat soort situaties. Ik denk overigens dat er ook al wetgeving bestaat die relevant kan zijn voor dit soort situaties. Denk aan aansprakelijkheidswetgeving en privacywetgeving bijvoorbeeld. Maar als je wilt experimenteren met technologie in nieuwe situaties moet je deze wel heel goed afkaderen. Je moet ervoor zorgen dat je niet alleen maar juridisch verantwoord bezig bent. Maar je moet er ook voor zorgen dat je ethisch goed bezig bent en letten op waardes zoals menselijke autonomie, integriteit van informatie. Je moet ervoor zorgen dat dit allemaal gewaarborgd blijft.”

Vallen daar nu gaten? Wat in Brussel werd gezegd was dat je robots hebt die informatie verzamelen en die uitwisselen met andere robots. Maar het is niet duidelijk of die zo geprogrammeerd zijn dat ze weten welke informatie wel en niet gedeeld mag worden.

„Dat zou heel kwalijk zijn als dat gebeurt. Maar ik denk dat de huidige wetgeving daar ook wel iets over te zeggen heeft. Je hebt bijvoorbeeld de wet bescherming persoonsgegevens. Dus op het moment dat wij persoonlijk identificeerbare data hebben, dan moeten we daar heel voorzichtig mee omgaan en deze niet zomaar in handen van derden geven via een of ander netwerk, ook al is het een netwerk van robots.”

Maar wat je ziet met buitencamera’s van bijvoorbeeld particulieren, die delen de beelden soms met de politie als deze daarom vraagt. Zijn daar dan al sluitende regels voor? Vroeger hadden mensen geen eigen camera op hun huis.

„Ik ben geen expert op dit gebied, maar ik denk dat daar wel regels voor zijn. De politie mag weliswaar meer dan de gewone burger maar moet zich ook aan de wet houden. Dus als je de beelden op verzoek van de politie vrijgeeft, moet ook de politie daar op een voorzichtige manier mee omgaan. Als je iemand op camera hebt staan die bijvoorbeeld iets steelt, mag de politie dat niet zonder meer met beeld en al op het internet zetten met de vraag: ‘wie kent deze persoon?’. Verdachten hebben rechten, net als iedereen. Dus de inkadering daarvan valt volgens mij nog gewoon onder de privacywetgeving.”

Wat ze in Brussel zeiden is dat regelgeving en certificering van nieuwe AI- en roboticatoepassingen met elkaar in verband staan. Dat je moet zorgen dat Europa qua standaard voor certificering voorop moet lopen, zodat AI- en roboticabedrijven in andere werelddelen de EU moeten volgen. Om de concurrentie voor te blijven en ervoor te zorgen dat de concurrentie zich aanpast aan de Europese standaard. Doet Eindhoven daar iets aan?

„Eindhoven is heel actief in het gebruik van nieuwe technologie voor burgers en in de publieke ruimte. Ze hebben daar ook richtlijnen voor opgesteld samen met de gemeente Amsterdam. Daarin lopen ze voorop. Die vormen het uitgangspunt voor regelgeving door andere gemeentes en de centrale overheid. Ambtenaren in Den Haag kijken hier ook actief naar. Daar zijn ze ook bezig met dit soort vraagstukken. Ik denk dat het belangrijk is om hierin voorop te lopen. Want als je innoveert en je er achteraf achterkomt dat het onwenselijk is wat er gebeurt, moet je een stap terugzetten. Dan kun je niet alleen ontzettend geremd worden in je innovatie, maar heb je mogelijk ook schade berokkend aan de burgers die je op een positieve manier had willen bedienen. Dus ik denk dat het heel belangrijk is dat we hierin voorop blijven lopen en de norm zetten voor de ons omringende landen en continenten. Je ziet nu al dat die GDPR wetgeving bijvoorbeeld die we in Europa hebben in bepaalde Amerikaanse staten wordt overgenomen. Dus je ziet daar al  dat dit best wenselijk is. Want ook daar hebben ze natuurlijk het Facebook-schandaal meegekregen en hoe er onzorgvuldig met de data van mensen door bepaalde bedrijven is omgegaan. Wat mij betreft is het van belang dat we daarin voorop lopen. In de discussie rondom big data heeft de wetgeving eigenlijk een beetje achtergelopen. Achteraf is dat in elk geval ten dele gerepareerd met die GDPR. In de discussie voor wat betreft AI denk ik dat we daarin voorop moeten lopen. Zodat we die discussie voor zijn.”

Een ambtenaar bij de Europese Commissie zei dat als de EU die nieuwe AI en robotica wetgeving niet binnen een paar jaar beschikbaar heeft dat we onze koppositie in 2025 verliezen aan Zuid-Oost Azië.

„Ik denk dat we niet alleen op regulering moeten inzetten. We moeten ook inzetten op innovatie en zorgen dat we de voordelen hebben die AI kan bieden om de wereld veiliger te maken en de mensen gezonder te houden. Die moeten we ook hebben. We moeten niet alleen de innovatie in Amerika en Azië laten gebeuren maar er ook voor zorgen dat wij zelf in de driver seat zitten van de innovatie. Maar dat moeten we dan wel doen op een manier die juridisch en ethisch verantwoord is.”

De EU wil certificering en regulering koppelen aan innovatie en zo haar koppositie in de wereldmarkt beschermen.

„Europa heeft op dit punt een voorsprong op de rest van de wereld. Daarmee kunnen we voor een deel bepalen wat er binnen onze interne markt gebeurt. Europa is als continent een van de grootste afzetmarkten ter wereld. Als je daarin zegt: deze regels gelden bij ons, zullen ook andere partijen zich daar aan moeten gaan houden als ze een voet aan de grond willen in Europa. Dat heeft automatisch een knock on werking in termen van innovatie binnen Europa maar ook daarbuiten.”

Geloof je dat er een reële kans is dat de EU haar koppositie op gebied van AI en robotica in 2025 verliest aan Azië?

„Ik denk eerlijk gezegd dat we onze koppositie eerder zouden verliezen doordat we te weinig investeren in AI en innovatie dan dat we niet tijdig reguleren. Ik heb er vertrouwen in dat die regulering in Europa zich op dit moment op een goede manier ontwikkelt. We zijn er nog niet maar we denken daar in elk geval systematisch over na, ook met andere bedrijven. Ook buiten Europa. Ook om dat controleprobleem het hoofd te bieden. Dat we geen systemen ontwikkelen die zo autonoom gaan opereren dat de mens eigenlijk geen inspraak meer heeft in dat proces. Europa heeft die koppositie mede doordat ze die wetgeving daarvoor eerder op orde heeft dan de rest van de wereld. Die willen we wel behouden. Of 2025 daarbij kantelpunt is, weet ik niet. Wat ik wel weet is dat we er met regelgeving alleen niet komen. We moeten ook investeren in technische, mensgerichte innovatie.”

Lees ook: Honderd miljoen euro en 50 docenten voor nieuw Artificial Intelligence instituut in Eindhoven