AI is een onvermijdelijk onderwerp geworden in culturele, politieke en online gesprekken. Je kunt er niet omheen, of het nu gaat over nieuwe tools, Elon Musk die de technologie aanpakt en een tijdelijke stop op de ontwikkeling ervan voorstelt, of Italië dat ChatGPT in het hele land verbiedt. Het is nieuw, en we denken het te begrijpen, maar velen begrijpen het toch niet helemaal.
Bij dit soort nieuwe en snel evoluerende onderwerpen is regulering vaak interdisciplinair. Het betreft vele gebieden en er bestaat geen one-fits-all oplossing. In het geval van AI zijn er veel variabelen waarmee rekening moet worden gehouden: besluitvorming, vooringenomenheid, privacy en, uiteraard, bestuur. Voordat we met praktische oplossingen komen, en dus ook voordat we ons afvragen hoe het regelgevingsbeleid eruit moet zien, moeten we ons afvragen wie dat beleid dient op te stellen.
Wat betekent dit?
Het betekent dat de vraag wie moet worden aangesteld behoorlijk controversieel is. Nu AI een steeds grotere rol gaat spelen in ons dagelijks leven, zijn er vele mogelijkheden voor de uitvoering van het regelgevingsbeleid, en de discussie zou nog dagen door kunnen gaan. Voor dit artikel beschouwen we er twee: een volledig democratisch proces en een zorgvuldige samenstelling van een taskforce van deskundigen.
In het eerste geval willen mensen misschien meepraten over hoe we de reikwijdte, ontwikkeling en toepassing van AI moeten beperken. Aan de ene kant lijkt democratisering de meest directe en vruchtbare aanpak, waarbij veel dwingende punten via een openbare stemming aan bod kunnen komen, met het risico dat de mening van niet-deskundigen een suboptimale of veel te gepolitiseerde uitkomst beïnvloedt. Anderzijds lijkt de noodzaak voor deskundigen om een ethische code op te stellen voor sommigen de meest betrouwbare aanpak. Toch bestaat hier het risico dat de macht over zo’n fundamenteel instrument wordt overgedragen aan een beperkt aantal mensen en zo een soort “intellectuele oligarchie” ontstaat.
Onderwijs, bestuur en regelgeving
Om een idee te krijgen van de mogelijke uitkomsten sprak Innovation Origins met drie professionals die werken met AI. De eerste is Dr. Sara Mancini, een Senior Manager bij een Italiaans adviesbureau, die de 2023-lijst van de 100 Brilliant Women in AI Ethics. Volgens haar is er, voordat we zelfs maar over governance beginnen te praten, eerst nog een andere stap nodig waar rekening mee moet worden gehouden: onderwijs.
“De ethische vraag die mij het meest bezighoudt, gaat over de interactie tussen mensen en AI”, zegt Dr. Mancini. “We gaan naar een scenario waarin de vereiste competenties niet alleen technologisch zijn, maar ook gaan over kritisch denken. Daarom moeten mensen vanaf zeer jonge leeftijd een goede opleiding in AI krijgen, zodat iedereen mindfull toegang krijgt tot de technologie.”
Dr. Mancini denkt dat dit perspectief uiteindelijk kan leiden tot het productieve gebruik van Kunstmatige Intelligentie, waardoor het speelveld in de hele samenleving gelijk wordt getrokken en een situatie wordt vermeden waarin alleen degenen die toegang hebben tot AI-tools deze ook kunnen begrijpen en ervan kunnen profiteren. Ook zou deze aanpak een relatie met AI mogelijk maken die eerder gebaseerd is op “augmentatie” dan op “automatisering”. Dat wil zeggen dat mensen leren hoe ze AI bewust kunnen gebruiken, voor hulp en facilitering op verschillende gebieden, in plaats van AI de taken volledig “over te laten nemen”.
Voor de korte termijn vindt zij echter dat deskundigen regelgevend beleid moeten opstellen. Ze legt uit dat er in Europa en de Verenigde Staten al overlegmethodes bestaan waarbij bedrijven en de academische wereld regelgeving bespreken om de urgentie van het probleem het hoofd te bieden.
De zakelijke kant
Aangezien het vooral bedrijven zijn die momenteel AI ontwikkelen, controleren en distribueren, heeft de discussie over regulering ook in die wereld grote gevolgen. AI Governance Limited Chief Executive Sue Turner, OBE, weet veel over het runnen van een succesvolle onderneming. Ze staat ook op de eerder genoemde lijst van 100 briljante vrouwen in de AI-ethiek. Wat de regelgeving betreft, gelooft zij in de noodzaak van een tweeledige aanpak: zowel “top-down” als “bottom-up”. Dat betekent dat er rekening moeten worden houden met het kader dat politici momenteel vaststellen en met hoe deze passen bij de sociale normen die in de samenleving veranderen naarmate de visie van mensen op AI evolueert. Ze zegt echter dat: “Op dit moment gaan ontwikkeling op dit gebied zo snel dat we ons niet laten leiden door de top-down benadering en evenmin de invloed zien van de bottom-up benadering”.
Net zoals Dr. Mancini gelooft in onderwijs als een krachtige methode om mensen dichter bij een begrip van AI en de ethiek ervan te brengen, is onderwijs in dit opzicht ook noodzakelijk voor degenen die betrokken zijn bij het bedrijfsleven. “[Veel bedrijfsleiders] weten niet eens wat voor soort vragen ze moeten stellen. Dat is de grootste uitdaging: hoe krijgen zij te weten wat ze zouden moeten weten?”
Transparantie en decentralisatie
Sommige mensen beschikken echter al over de kennis en denken kritisch na over het ethisch gebruik van AI. Buster Franken is de CEO van FruitPunchAI, een challenge-based learning start-up die actief is op het gebied van vaardigheidsaccreditatie. Hij heeft een aantal sterke en gefundeerde meningen over governance en gelooft dat decentralisatie een antwoord is op het vraagstuk.
“Morele en wettelijke codes moeten democratisch worden vastgesteld, zoals nu het geval is. Dit is niet specifiek voor AI. Om AI te besturen moeten de volgende dingen gebeuren: open-sourcing van alle modellen, en bij voorkeur data, en het financieel stimuleren van het vinden van ‘foute’ (bevooroordeelde) modellen. Dan ontstaan vanzelf bedrijven die zich specialiseren in het testen op die bevooroordeelde modellen. De specifieke wetten die van toepassing zijn op AI kunnen door deskundigen worden bepaald. Het is belangrijk”, vervolgt hij, “dat zij niet de leiding hebben, want dan krijg je een technocratie”. Volgens hem zouden bedrijven zich dus moeten houden aan één nationale ethische code, en zouden bedrijven als wederzijdse waakhonden kunnen optreden en elkaar kunnen controleren, waarbij iedereen wordt gestimuleerd, zelfs financieel, om ethische principes te omarmen die uiteindelijk het publiek ten goede komen.
