Divers samengestelde teams presteren beter, zo is uit onderzoek gebleken. Vooral in de innovatietechnologie. Mensen met verschillende achtergronden en zienswijzen zorgen immers voor creatieve inzichten. Toch blijft het in het bedrijfsleven anno 2020 behelpen op dat vlak, zeker als het gaat om cultureel-etnische diversiteit. Innovation Origins gaat in een korte serie op zoek naar antwoorden op de vraag waarom dit een groot maatschappelijk probleem vormt en vooral: hoe dit te fixen?
Alle negatieve verhalen rondom AI ten spijt gelooft Sennay Ghebreab, neuro-informaticus aan de Universiteit van Amsterdam en oprichter van het Civic AI Lab, vooral in de positieve kracht van algoritmes. Belangrijk is wel dat gewone burgers inzien dat Artificial Intelligence (AI) ook hun belang dient, en om algoritmes representatief te maken voor alle groepen in de samenleving.
Ghebreab kwam op zesjarige leeftijd samen met zijn ouders als vluchteling uit Eritrea naar Nederland. Hij was van jongs af aan begaan met sociale onrechtvaardigheid. Het bestrijden van kansenongelijkheid is de rode draad in zijn loopbaan. Of het gaat om burgerrechten in het algemeen of iets specifieker om discriminatie en raciale onderdrukking. “Sommige mensen in de samenleving hebben ten onrechte meer kansen dan andere. Ik wil de kansengelijkheid van burgers helpen vergroten. Omdat ik nu eenmaal in de technische hoek zit en omdat mijn vakgebied AI is, doe ik dat toevallig aan de hand van technologie.”
Ongelijke kansen
Zo’n voorbeeld van kansenongelijkheid bij de toepassing van algoritmes noemt Ghebreab de toegang tot de gezondheidszorg in de VS. “Die wordt voor veel Amerikanen bepaald door een algoritme dat gezondheidsrisico’s berekent. Mensen met een hoog risico worden doorverwezen naar de huisarts of het ziekenhuis. Maar gebleken is dat zwarte mensen die even ziek waren als witte mensen een lager gezondheidsrisico toebedeeld kregen en dus ook minder zorg. Het algoritme bleek namelijk gezondheidsrisico’s te berekenen op basis van in het verleden gemaakte zorgkosten. Die kosten waren lager voor de zwarte bevolking als gevolg van segregatie en discriminatie. Daardoor hadden zij minder toegang tot de zorg.’
Dergelijke discriminerende praktijken komen echter ook dichter bij huis voor. Zoals de recente, dramatische toeslagenaffaire bij de Belastingdienst. Zulke fouten komen volgens Ghebreab echter evengoed op alle domeinen voor. Van financieel tot juridisch gebied. “Dat komt niet zozeer door de algoritmes zelf, maar door de toepassing ervan. Zo worden als het gaat over criminaliteit recidive-cijfers gekoppeld aan zekere bevolkingsgroepen, en vindt voorspelling van recidive plaats gebaseerd op historische data. Zit daar een bias in, dan zorgt dit ervoor dat diezelfde vooringenomenheid wordt meegenomen in de beleidsbeslissingen.”
Bias herkennen en voorkomen
Dat is ook waar het onderzoek binnen het Civic AI Lab zich op richt, aldus Ghebreab. “Door zulke dingen bloot te leggen kom je een stap verder en kun je er wat aan doen.” Hoe je een dergelijke bias vervolgens kunt voorkomen? Ghebreab: “Dat kun je op allerlei beslismomenten doen op basis waarvan je nieuwe data verzamelt. Daarin kun je bepaalde ‘eerlijkheidsmaten’ verwerken die rekening houden met allerlei verschillende aspecten als gender, leeftijd en etniciteit. Zulke dingen zijn nog te weinig in algoritmes ingebouwd. Een ander probleem is dat algoritmes nu nog worden ontwikkeld zonder dat er toezicht is op wat ermee gebeurt. Terwijl dit juist nodig is om te zien óf er fouten optreden.”
Onderwijs
Wat volgens Ghebreab daarnaast misgaat is dat bepaalde groepen in de samenleving nu wel toegang hebben tot de kennis van hoe algoritmes werken en andere niet. “Hierdoor ontstaat een digitale ongelijkheid die, als je er niets aan doet, in de toekomst alleen maar verder zal toenemen. Je kunt het vergelijken met lezen en schrijven: in een digitale wereld heb je kennis van AI nodig om mee te doen.”
Het is volgens Ghebreab dan ook aan de overheid om hier haar verantwoordelijkheid in te nemen, door te investeren in aandacht voor AI binnen het basiscurriculum. “Denk bijvoorbeeld aan een vak ‘burgerschap en digitale wijsheid’. Binnen Europa loopt Finland daarmee voorop. Daar vindt al sinds 2015 een nationale cursus AI plaats waar iedereen aan kan deelnemen. Nederland kent ondertussen ook dergelijke initiatieven, maar zijn die vooralsnog opgezet vanuit de wetenschap en een paar bedrijven zoals TechLeap.”
Kruispunt
“Wij staan als het gaat over de inzet van AI momenteel op een kruispunt”, legt Ghebreab uit. ‘Met enerzijds een top-downbenadering waarbij de overheid iets van je wil maar waar de burger zelf niet aan bijdraagt en waarbij grote technologiebedrijven erop uit zijn je zoveel mogelijk data te ontfutselen, om die vervolgens te kunnen inzetten om zoveel mogelijk winst te maken. Anderzijds hebben we te maken met een hele positieve, bottom-up ontwikkeling, waarbij burgers zelf profiteren van de mogelijkheden die AI biedt. Laatste gaat over eigenaarschap in algoritmisch denken.’
Dat is ook de gedachte achter het Civic AI Lab, waarmee Gehreab het doemdenken rondom AI hoopt om te zetten in ‘doen-denken’. “Ik geloof echt in ‘AI for all‘. Om te zorgen dat minderheidsgroepen, die nu niet in de algoritmes vertegenwoordigd zijn, een plek binnen AI krijgen, moeten zij echter ook zelf hun verantwoordelijkheid nemen. Want pas als je meedoet kun je er ook voor zorgen dat algoritmes in jouw belang worden ingezet.”
Lees ook de andere artikelen in deze serie over diversiteit:
‘Diversiteit bevorderen bij start-ups heeft grote impact’
Diversiteit, innovatie en ondernemerschap: Nederland bekent kleur
‘Op alle fronten diversiteit-bevorderende maatregelen doorvoeren’
Diversiteit in techniek vraagt om rolmodellen
Als je dit artikel leuk vindt, lees dan ook:
