Ik las laatst dit wetenschappelijke artikel over ongelijkheid in de gezondheidszorg die wordt veroorzaakt door AI. Het ging onder andere over een Europees kader voor medische hulpmiddelen die vooroordelen kan verminderen. Het onderwerp liet me niet los. Voor een compleet overzicht van de problemen en het regelgevingskader beveel ik ten zeerste aan om het artikel te lezen, maar ik zal hier een korte samenvatting geven van “digital ageism” dat ontstaat door medische AI.
Technisch vs. contextueel AI-leeftijdsrisico
Ik heb veel gelezen en gehoord over bias bij AI. Daarbij denk ik in de eerste plaats aan data. Het gebruik van datasets die niet representatief zijn voor de werkelijkheid (historische bias), die bepaalde bevolkingsgroepen niet goed vertegenwoordigen (representatiebias), of, eenvoudiger, wanneer gegevens onnauwkeurig zijn (meetbias) kunnen leiden tot een bevooroordeeld algoritme.
Alle drie kunnen voorkomen als het gaat om kunstmatige intelligentie bij oudere patiënten, bijvoorbeeld door verouderde gegevens te gebruiken van onderzoeken toen internet nog in de kinderschoenen stond, of door modellen te trainen met gegevens van overwegend jongere populaties. In de modelleringsfase is er sprake van algoritmische bias, wanneer een model een bevooroordeelde variabele gebruikt om een bepaalde voorspelling te doen (uit het artikel, bijv. het gebruik van chronologische leeftijd als proxy voor de bereidheid om een borstkankeroperatie te ondergaan).
Aggregatiebias treedt op wanneer één model wordt gebruikt voor groepen met verschillende aandoeningen, waardoor wordt genegeerd hoe ziekten zich anders kunnen manifesteren bij oudere volwassenen. Evaluatiebias treedt op wanneer testgegevens niet overeenkomen met de populatie waarvoor het model bedoeld is, zoals het gebruik van gegevens van patiënten met Alzheimer in een vroeg stadium om een apparaat te testen voor patiënten in een laat stadium.
Wat ik erg interessant vond, was het leren over contextuele bias, een bias die wordt geïntroduceerd door de context waarin medische AI wordt gebruikt. Wanneer patiënten apps moeten gebruiken of online gezondheidsgegevens moeten invoeren, zijn ouderen in het nadeel. Vooroordelen en stereotypen behoren ook tot deze categorie. Een arts zou bijvoorbeeld kunnen vermijden om een technologische oplossing aan te bevelen aan een oudere patiënt, op basis van de veronderstelling dat deze niet technisch onderlegd is.
Hulp bij Digitaal
Toen ik in de openbare bibliotheek in Amsterdam was, zag ik dat ze ‘Hulp bij Digitaal’ aanbieden. Het is een plek waar mensen hulp krijgen met zaken als DigiD en online winkelen of zelfstandig kunnen oefenen met het gebruik van een computer, indien nodig met ondersteuning van het personeel. Hoewel de dienst niet expliciet gericht is op oudere mensen (wat volgens mij terecht is, aangezien het niveau van digitale geletterdheid om allerlei redenen varieert), zag ik meteen het belang ervan in voor inclusiviteit, vooral voor de vergrijzende bevolking. Initiatieven zoals deze helpen een context te creëren om deze oplossingen te gebruiken voor essentiële taken, zoals belastingbetalingen.
Ik woon nu een aantal jaar in Nederland, en heb gemerkt dat er overheidscommunicatie hier al in veel hogere mate digitaal plaatsvindt, in vergelijking met Italië. Hoewel er vooruitgang wordt geboekt, is er meer nodig dan alleen het introduceren van technologie; het creëren van een omgeving waarin mensen zich op hun gemak voelen en vertrouwen hebben in het gebruik ervan is cruciaal. Dit benadrukt het belang van design bij implementatie, een factor die vaak over het hoofd wordt gezien.
De rol van design
In deze context legt design een groot gewicht en verantwoordelijkheid in de schaal. De technologische vooruitgang op dit gebied gaat zo snel dat er behoefte is aan gerichte expertise om deze beoordelingen te maken. De tijd nemen om de context en technische aspecten zorgvuldig te overwegen voordat een product wordt uitgebracht, kan de acceptatie en waarde ervan enorm vergroten.
Bij het overwegen van een ontwerp, in het bijzonder met betrekking tot de contextuele AI-kwestie, zijn er veel factoren die van invloed zijn en vragen die gesteld kunnen worden, maar om te beginnen vraag ik me af hoe oudere mensen worden gedefinieerd. Natuurlijk zijn er officiële richtlijnen die verwijzen naar bepaalde leeftijdscategorieën, maar ik vraag me af of deze eerlijk zijn in ontwerpcontexten, aangezien ze bijvoorbeeld nauw verbonden zijn met technische vaardigheden. En tech-savviness varieert sterk in tijd en plaats, aangezien de bevolking steeds digitaler wordt, maar deze vooruitgang verschilt sterk van land tot land en is afhankelijk van vele andere factoren.
In de toekomst, wanneer alleen digital natives overblijven, kan contextueel ageism er heel anders uitzien. Deze verschuiving biedt enige hoop en suggereert dat het misschien niet zo’n groot probleem is. Dit betekent echter niet dat soortgelijke problemen zich niet kunnen voordoen met nieuwe technologieën, noch rechtvaardigt dit het over het hoofd zien van de huidige zorgen. Zelfs met generaties van digital natives blijft universele toegang tot technologie en digitale geletterdheid een uitdaging.
Als je dit artikel leuk vindt, lees dan ook:
