In Brussel vindt op dit moment veel overleg plaats over nieuwe regels voor werken met innovatieve AI en robots. Ambtenaren en adviseurs van de Europese Commissie zeggen dat, als deze er niet snel komen, de EU geen standaard heeft om ze te certificeren. En dat die wel nodig is zodat producenten uit andere werelddelen zich aan deze standaard moeten aanpassen. Op het spel staat Europa’s koppositie op het gebied van AI en robotica. Innovation Origins vroeg Buster Franken, oprichter van de vanuit de TU Eindhoven ontwikkelde start-up Fruitpunch AI, naar zijn ervaring met door veroudering belemmerende regelgeving bij zijn innovatieve AI-projecten.

Buster Franken Foto: Fruitpunch AI

Als je kijkt naar jouw eigen ervaring met AI en robotica, welke regels zouden er dan wat jouw betreft moeten komen?

„Het is vooral belangrijk dat er regels komen die innovatieve AI- en automatiseringsprojecten mogelijk maken. Heel veel regelgeving is gecentreerd rondom het idee dat de mens de volledige beslissing maakt en de volledige handeling uitvoert. Hier moet een bepaalde ruimte in komen voor de rol van AI-technologie waardoor het mogelijk is om een collaboratief model voor beslissingen te maken. Wat doet een AI? Een AI is de partij die de omgevingsfactoren analyseert en op basis daarvan een beslissing maakt of een bepaald advies uitgeeft. De robot die daaraan verbonden is, kan dat besluit vervolgens uitvoeren. Maar de AI is echt degene die de beslissing maakt. Als we hier een assistive decision making model voor kunnen maken, samen met de mens, dan is dat een enorm sterk model. Maar daarvoor is het dus belangrijk dat er ruimte in de regels komt voor de rol van AI.”

Kun je denken aan een regel dat er bij de uitvoering van een besluit dat tot stand komt door een analyse van de AI de robot altijd aan een mens moet vragen: ‘zal ik dat besluit echt uitvoeren?’

„Nee. Op het moment is het probleem niet dat de robot dat niet aan de mens hoeft te vragen. Op het moment is het probleem dat de robot al die handelingen niet mag uitvoeren omdat officieel in de wetgeving al vast staat dat de mens al die handelingen moet uitvoeren. Neem het voorbeeld van de zelfrijdende auto. Waarom zijn zelfrijdende auto’s in Nederland niet toegelaten, ook al zijn ze veiliger dan wanneer ze door mensen bestuurd zouden worden? Omdat de mens de auto volgens de wetgeving moet besturen.”

Lees: Hoogleraar TU/e: ‘We moeten investeren in innovatie van mensgerichte AI’

Omdat de mens volgens de regels het rijbewijs behaald moet hebben en de robot dat niet kan.

„Inderdaad. Daarom moeten we de kennis van deze technologie overbrengen op de politiek en de betrokken organisaties zodat dit soort regels doorgevoerd kunnen worden. We hebben het niet alleen over regels die kaders stellen aan die AI innovatie. Maar vooral ook over regels die toelaten dat zo’n AI mag handelen in de wereld van de mensen.”

Liep jij zelf wel eens tegen een grens op bij de uitvoering van een project?

„Wij als start up Fruit Punch – we bestaan nu tien maanden – lopen niet tegen die grenzen aan omdat ons eerste toegepaste project plaats vindt in Zuid Afrika. [Dat project betreft een detectiesysteem voor stropers in nationale parken met drones die de parkopzichters waarschuwen als er een stroper gesignaleerd wordt, red.] Waarom in Zuid Afrika? Omdat je daar direct een hele grote impact kan maken. Omdat er heel weinig van dit soort technologieën worden toegepast. AI for Wildlife maakt gebruik van autonome drones en beeldherkenning om advies te kunnen geven aan de wildlife rangers, de beschermers van de natuurparken, waar de stropers zich bevinden, waar ze zouden kunnen ingrijpen om ervoor te zorgen dat er niet op de bedreigde diersoorten geschoten wordt.”

In Zuid-Afrika mag je dat kennelijk doen.

„Ja, daar is minder regelgeving voor het laten vliegen van drones. Je kunt een afspraak maken met zo’n wildlife park. En zo kun je zo’n project opzetten.”

Hier mag dat niet?

„Je hebt hier geen grote stropersorganisaties dus hier is dit specifieke project niet logisch om uit te voeren. Maar het mag inderdaad niet. Dat is een voorbeeld van waar wij zelf tegen aan zouden lopen als we zoiets hier als Fruit Punch AI zoiets zouden willen doen.”

Loopt Nederland een beetje achter op het gebied van AI strategie en regelgeving?

„We lopen als Nederland en als Europa achter op Amerika en China. China investeert vanuit de overheid en in Amerika is er meer geld op de markt voor risico dragende investeringen dan hier. In de VS zijn ze wat meer experimenteel. Daardoor zijn wij gaan achterlopen. Maar we kunnen een enorme inhaalslag maken omdat we in Europa en in Nederland specifiek en in Eindhoven specifiek heel erg sterk zijn in al die verschillende wetenschappelijke domeinen. En wat is de volgende stap van artificiële intelligentie? Dat is de toepassing van AI op mechanical engineering, electrical engineering, robotica, high tech systems, logistiek. Daar zit de echte kracht en daar kunnen wij ook die inhaalslag maken. Dat is dus ook waarop we met Fruit Punch AI focussen en waarop we met EAISI focussen. [EAISI is het nieuwe AI instituut van de TU/e, red.]. Om de AI kennis te brengen naar al die verschillende domeinen en achtergronden.”

Waarom loopt de regelgeving niet synchroon met de ontwikkeling van nieuwe AI-producten?

„De ontwikkelingen zijn altijd steeds sneller gegaan. Als je kijkt naar de technologische ontwikkeling van een hele tijd geleden, als je denkt aan de exponentiële groeicurve van technologische ontwikkeling, dan zie je eigenlijk dat in het industriële tijdperk er ook een shift van banen was. Dat mensen ander werk moesten gaan doen. Maar heel veel mensen konden nog steeds gewoon 40 jaar in hetzelfde vakgebied blijven werken en dat redelijk goed blijven doen. Maar we leven nu in een tijd dat de technologische ontwikkeling zo snel gaat dat mensen en dus ook regelgeving en overheden het niet meer kunnen bijhouden omdat je constant aan het bijschrijven moet zijn. Dat zien we ook in ons eigen werk. Wij zijn een start up. Je kunt niet  constant al je documenten up to date houden. Daar zit altijd een lapse in van drie maanden. Anders zou je de hele tijd aan het bijschrijven zijn. Dat is een beetje het probleem met die regelgeving. Daar kunnen wel grote stappen in gemaakt worden. Door de keten korter te maken. Zet de techneuten met een goede ethische achtergrond en ook politiek inzicht bij de ambtenaren.”

En die kunnen het dan voorleggen aan de politici in het democratisch bestel die er over moeten oordelen. In Brussel zeiden ze dat ze niet meer willen wachten tot er een definitieve superrichtlijn is maar dat ze willen werken met een soort ‘living document’ dat updates kan krijgen.

Living document vind ik een geschikte uitdrukking. Want dat is precies wat het is. Je ziet dat ook, om terug te komen bij tech bedrijven, je ziet dat de nieuwe manier van een bedrijf opzetten  heel erg gefocust is op minimal viable products [minimaal werkbare producten, red.], itereren [herhalen, red.]. Dus op een hele korte termijn een net wat betere versie te maken die weer op de markt te zetten. Feed back krijgen van de omgeving, en het product weer op de markt zetten.”

Dus je moet de gebruikerservaring kunnen toepassen op de vernieuwing van het product en die moet weer terug kunnen komen in het regeltje dat ervoor gold.

„Precies.”

Dus het regeltje moet niet in beton gegoten worden.

„Inderdaad. Daarom moet er wat meer ruimte in de manier van denken komen bij de politiek, denk ik. Je kunt het niet meer hebben over plannen van tien jaar. Je moet het hebben over plannen van twee jaar, of van een jaar. En laten we dat voor het einde van het boekjaar maken en niet pas als er weer een nieuw budget vrijgemaakt is.”

Of je moet een plan maken voor tien jaar waarbij je alleen de eerste twee jaar definieert.

“Ja, dat kan ook. Er zijn verschillende manieren waarop je ermee om kunt gaan.”