Kunstmatige intelligentie moet op functioneringsgesprek

Iris Muis van Utrecht Data School (UDS) wil een functioneringsgesprek voor kunstmatige intelligentie (AI) ontwikkelen. Dit toezichtinstrument zou ervoor moeten zorgen dat een toezichthouder het algoritme van marktpartijen kan controleren. Dat meldt Utrecht Data School in een persbericht. 

Functioneringsgesprek

De ontwikkeling gebeurt in samenwerking met de Nederlandse Voedsel- en Warenautoriteit en Rijksinspectie Digitale Infrastructuur. In het “gesprek” zou het moeten gaan over de code,  de keuzes van marktpartijen en hoe ze AI borgen in de organisatie. “Daarnaast moeten we weten of ze nog steeds achter deze keuzes staat”, zegt Muis. 

Het is de bedoeling dat organisaties zelf het functioneringsprogramma kunnen inzetten. Bijvoorbeeld het aanleveren van een rapport bij hun toezichthouder waarin ze ingaan op incidenten door algoritmen en hoe ze daarmee om zijn gegaan. “Daarnaast moeten ze kunnen vertellen wat hun AI-beleid is, waarom dat voldoet aan de criteria en hoe de mensen getraind zijn om de AI te gebruiken”, aldus Muis.

AI? Niks om (niet) bang van te worden

Als er iets is dat de gemoederen bezig houdt, dan is het wel de hoop op / de angst voor kunstmatige intelligentie.

Ethiek

Juist dit trainen van mensen is ethisch gezien erg belangrijk. AI-programma werken volgens Muis zelf, maar menselijke fouten liggen alsnog op de loer. “AI kan technisch perfect zijn, maar toch verkeerd ingezet worden. Een extreem voorbeeld is de toeslagenaffaire. Als organisaties de fout ingaan, komt het doordat niemand het overzicht heeft”, zegt Muis. 

Volgens Muis is het nodig dat marktpartijen hun keuzes kunnen onderbouwen en dat de verantwoordelijkheid voor AI in een organisatie nooit bij één of een handvol mensen ligt. “AI hoort van de hele organisatie te zijn”, zegt Muis. Het prototype dat UDS bouwt, zou nog dit jaar met marktpartijen getest moeten worden.