De professor en de politicus zaten samen aan het tafeltje van een lunchroom in Den Haag. Ze dronken kopjes verse muntthee. De politicus had de professor uitgenodigd om te praten over transparantie van algoritmes. Hij wilde strenge regels instellen voor het gebruik van algoritmes door de overheid. ‘Met een streepje onder “strenge”!’ had hij toegevoegd.
‘Ik wil een waakhond die àlle algoritmes van de overheid gaat controleren.’ zei de politicus, en hij keek er onverkwikkelijk bij. Het viel de professor op dat hij een voorkeur had voor de woorden “regels” en “waakhond”, en voor de uitdrukking “met een streepje eronder”.
Na het eerste kopje thee stelden ze vast dat er grofweg twee soorten algoritmes zijn: eenvoudige en complexe algoritmes. Eenvoudige algoritmes, zo bedachten ze, vertalen regels naar een soort beslisboom. Op een servetje tekende ze blokjes en lijntjes, en als voorbeeld haalde de politicus de aanvraag van huurtoeslag aan. Hij wist te vertellen dat er wel duizenden eenvoudige algoritmes in gebruik zijn bij de overheid.
De professor opperde dat dit soort algoritmes relatief gemakkelijk transparant kan worden gemaakt, maar dat die transparantie je feitelijk gezien terug brengt naar de regelgeving waarop het algoritme gebaseerd is. Na een slokje thee voegde hij daaraan toe ‘dus je kunt je afvragen wat het nut is van een algoritme-waakhond in dit geval.’
Het gesprek viel eerst een beetje stil, maar toen besloten ze dat ze het hierover eens waren.
‘Maarrrr,’ zei de politicus met een onheilspellend rollende r, ‘dan heb je nog de complexe algoritmes. Neurale netwerken en zo‘.
De professor keek nadenkend uit het raam omdat hij dacht dat dat goed paste bij de situatie, en antwoordde toen dat neurale netwerken even transparant zijn als het menselijk brein. ‘Áls je neurale netwerken al transparant zou kunnen maken, zou je er niets uit kunnen afleiden.’
De politicus knikte voorzichtig. Dat wist hij ook wel.
‘Je kunt zo’n netwerk trainen, je kunt de uitkomst testen, en je kunt het ook beter laten functioneren, maar transparantie, of de inzet van een algoritme waakhond, zal ook hier weinig toevoegen.’ concludeerde de professor.
En weer viel het gesprek even stil.
‘Maar we willen hier toch geen Chinese toestanden?!‘ merkte de politicus op, en daar kon de professor het niet mee oneens zijn. ‘Juist daarom wil ik een verbod op het gebruik van verregaande algoritmes door de overheid,’ voegde de politicus eraan toe, ‘met een streepje onder verbod.’
‘Het effect zal averechts zijn’ zei de professor, ‘met een verbod op het gebruik van algoritmes door de overheid creëer je ongewenste Amerikaanse toestanden waarin commerciële partijen steeds slimmere algoritmes ontwikkelen, daardoor machtiger worden, en waarin de democratisch gekozen overheid wordt gemarginaliseerd.’ Het laatste stukje van de zin kwam er zachter uit dan hij graag had gewild. Hij overwoog de zin nog een keer te herhalen maar in plaats daarvan vroeg hij ‘Waarom gebruik je steeds het woord waakhond?’.
‘Omdat een waakhond daadkracht uitstraalt’ antwoordde de politicus, ‘we willen het publiek het gevoel geven veilig te zijn bij de overheid, en een waakhond past daar goed bij.’
Nieuwsgierige bijen
De professor werd een beetje mismoedig. De overheid als strenge waakhond. Het beeld deed hem denken aan landen als China. Of aan Amerika. ‘Het is een metafoor die me tegenstaat‘ zei hij, ‘er gaat een ongenuanceerd karakter van uit. Krachtig dat wel, maar ook een beetje dom en ongenuanceerd.’
‘Kom maar eens met een betere analogie.’ antwoordde de politicus opgewekt.
De professor moest denken aan een artikel dat hij onlangs gelezen had en antwoordde ‘Het beeld van een bijenvolk zou volgens mij beter passen’. Het was een beetje een stom antwoord, maar in een bijenkolonie worden nieuwsgierige bijen erop uit gestuurd om te zoeken naar mogelijkheden die van waarde zijn voor de hele kolonie.
De politicus lachte schamper. “Mooi beeld professor, maar een algoritme-bij werkt niet in de politieke arena!”
De professor vermoedde dat de politicus daar een goed punt had.
Ze dronken samen nog één kopje thee, en gingen toen weer ieder hun eigen weg.
Lees ook: Kees Verhoeven (D66) wil burger beschermen tegen oprukkende algoritmen
Over deze column:
In een wekelijkse column, afwisselend geschreven door Floris Beemster, Mary Fiers, Peter de Kock, Eveline van Zeeland, Lucien Engelen, Tessie Hartjes, Jan Wouters, Katleen Gabriels, Bert Overlack en Auke Hoekstra, probeert Innovation Origins uit te vinden hoe de toekomst eruit zal zien. Deze columnisten, af en toe aangevuld met gastbloggers, zijn allemaal op hun eigen manier bezig met oplossingen voor de problemen van onze tijd. Zodat Morgen Beter wordt. Hier alle eerdere afleveringen.
Als je dit artikel leuk vindt, lees dan ook:
