Er moet een autoriteit komen voor het gebruik van algoritmen. Daarvoor pleit D66-kamerlid Kees Verhoeven tijdens het ‘work less, achieve more’-congres van netwerkorganisatie Weconomics. Het congres gaat over de digitale transformatie op de werkvloer. Ook in de politiek is volgens Verhoeven, die zich volledig richt op digitalisering, nog veel winst te laten.

“Digitalisering is lang op de achtergrond gebleven in de politiek”, geeft Verhoeven toe aan het begin van zijn speech tijdens het congres. “Toch is het een belangrijk thema omdat ontwikkelingen als AI en Internet of Things grote impact op de maatschappij gaan hebben. Het leidt tot nieuwe vraagstukken en dilemma’s. AI biedt ongelofelijke kansen tot verbetering van dienstverlening.” Zo kan het bijdragen aan sneller diagnoses. Ook kan het onderwijs door het verzamelen en analyseren van data aangepast worden op de persoonlijke behoefte van een kind.

Lees hier meer over AI

Luister nu naar De IO Show!

Elke week het nieuws van Innovation Origins in je oren!

“Maar er zitten ook keerzijden aan”, stelt hij. “Grote techbedrijven verzamelen en analyseren grote hoeveelheden data om mensen te beïnvloeden, bijvoorbeeld door hen een bepaald product te laten kopen. Overheden gebruiken bepaalde data bijvoorbeeld om onze veiligheid te waarborgen.” Organisaties als de inlichtingen en opsporingsdiensten, defensie en politie maken steeds meer gebruik van data. “Hierdoor krijg je een soort surveillancestaat waarin mensen eerder worden gezien als objecten die in de gaten moeten worden gehouden dan als burgers.”

Verdacht door een algoritme

Volgens Verhoeven zijn steeds meer gemeenten bezig met algoritmen om voorspellingen te doen en besluiten te nemen over mensen. “Zo word je bijvoorbeeld van iets verdacht, word je gezien als een potentiële fraudeur, een snellere schoolverlater of een potentiële dief”, stelt hij. “Dit soort voorspellingen kunnen goed zijn, maar het kan ook zorgen voor onterechte conclusies over mensen. Dat kan weer leiden tot discriminatie of uitsluiting. Algoritmen kunnen in die zin besluiten over mensen nemen”, zegt Verhoeven.

Lees ook de column van Peter de Kock over AI

Transparantie belangrijk

Om te zorgen dat deze besluiten op een goede en ethisch verantwoorde manier worden genomen, moeten de algoritmen van de overheid volgens hem veel transparanter. “De overheid moet ten aller tijden inzichtelijk maken waarom een besluit genomen is. Bovendien moet het controleerbaar en omkeerbaar zijn.” Dit kan volgens de politicus alleen afgedwongen worden door een algoritme-autoriteit, ‘een onafhankelijke toezichthouder op het gebruik van algoritmen’. Net zoals de Autoriteit Persoonsgegevens toeziet op de privacy van mensen en de Autoriteit Consument en Markt kijkt naar eerlijke concurrentie op de markt. Zo’n onafhankelijke organisatie behoort in publieke handen, geeft Verhoeven aan. “De autoriteit voor algoritmen moet toezien op de transparantie van algoritmen. Ook de uitlegbaarheid, controleerbaarheid, en omkeerbaarheid van een algoritme zijn belangrijk.”

Om dit voor elkaar te krijgen, moeten we het gebruik van AI op een andere manier benaderen. “Een algoritme moet niet alleen door techneuten ontwikkeld worden. Andere mensen moeten ook nadenken over de ontwikkeling van technologie, bijvoorbeeld vanuit de sociologie of psychologie”, zegt Verhoeven.

Nieuwe verhoudingen

De ontwikkeling van AI en andere technologieën zorgen volgens Verhoeven voor nieuwe verhoudingen tussen mensen, bedrijven en overheden. “Overheden en bedrijven hebben steeds meer data en daardoor steeds meer macht. Mensen zijn steeds afhankelijker daarvan. Dat geeft nieuwe dilemma’s op het gebied van privacy. Maar ook op het gebied van discriminatie en autonomie.” Hij ziet het als een taak van de politiek in om te grijpen, bijvoorbeeld door het aanstellen van zo’n algoritme-autoriteit.

Maar het aannemen van nieuwe wetten om dit soort zaken te regelen, is een traag en ingewikkeld proces. “Als je met innovatie bezig bent, dan zul je zien dat het ook op gebied van regelgeving nog onontgonnen terrein is”, zegt hij. Daarom pleit Verhoeven ervoor om het wetgevingsproces op een andere manier vorm te geven. Hierdoor moet het flexibeler zijn en sneller gaan. Maar om snel in te kunnen spelen op nieuwe ontwikkelingen, moeten politici ook beschikken over de nodige kennis van technologie. “De kennis is heel gebrekkig en de impact van technologie wordt niet goed overzien.” Daar is dus nog werk aan de winkel voor de meeste politici. Zowel op lokaal en regionaal als landelijk niveau.