Techexpert Jarno Duursma ziet zowel voor- en nadelen voor het gebruik van AI in de zorg. Eerst de voordelen: Wetenschappers bij Life Lines, een grootschalig onderzoek naar het ontstaan van chronische ziektes onder 165 duizend mensen in Noord-Nederland, maken gebruik van kunstmatig intelligente software. Duursma: “Dit onderzoek bestaat al sinds 2006. Uit al die onderzoeken en vragenlijsten ontstaat een enorme database. Met behulp van AI kunnen artsen verbanden leggen die ze anders nooit hadden gezien zoals de verbetering van de diagnose van depressie of de voorspelling van kanker.”
Of wat te denken van medicijnonderzoek? Aan de Universiteit Leiden werken onderzoekers aan een model gebaseerd op 3,8 miljoen metingen die sinds de jaren 70 zijn gepubliceerd over kandidaat medicijnen. Dit werkt als een soort bibliotheek die wetenschappers in de juiste richting helpt zoeken. Ook voorspelt het systeem de interactie tussen een chemische stof en een eiwit op basis van 5,5 miljard datapunten. Met de voorspelling van de software kan een chemicus aan de slag om te testen of het potentiële medicijn ook in de praktijk werkt. Het gebruik van kunstmatige intelligentie scheelt hierbij veel tijd en geld. “Dit zijn hele mooie toepassingen waarmee je sneller een werkend medicijn ontwikkelt of een bestaand medicijn voor andere ziektes kunt inzetten. Dat zijn mooie ontwikkelingen die mij enthousiast maken”, aldus Duursma.
Nog iets anders waar Duursma enthousiast van wordt: avatars in de zorg. Bijvoorbeeld als digitale arts die een simpele intake uitvoert of ingewikkelde en lange lappen tekst in een korte video simpel samenvat voor patiënten. “Door een intake uit te laten voeren door kunstmatige intelligentie, houdt een arts meer tijd over. Ook kun je deze digitale arts inzetten om patiëntfolders uit te leggen in de vorm van een video, dat werkt soms beter dan lange teksten.”
Niet blindstaren op technologie
Ondanks zijn enthousiasme, waarschuwt Duursma ook voor het gebruik van AI in de zorg. “Onze zorg wordt steeds duurder en geeft meer druk op de maatschappij. Hier moeten we wat mee, maar we moeten ons niet blindstaren op technologie. We moeten nog steeds kritisch blijven kijken naar de gevaren van AI.”
Volgens hem zijn we geneigd om de kwaliteiten van software te overschatten. Hiervoor wijst hij naar een algoritme dat voorspelt of een moedervlek kwaadaardig is of niet. “De software was prima in staat om foute moedervlekken eruit te halen, maar wat bleek toen de wetenschappers gingen napluizen hoe dat kwam? Het systeem kwam niet tot het oordeel door naar de moedervlekken zelf te kijken, maar zag de lineaal die dermatologen gebruiken om de groei van verdachte moedervlekken te volgen als een belangrijk signaal. Dit laat zien dat een algoritme getraind met verschillende foto’s van moedervlekken op basis van iets heel anders dan je zou verwachten met een oordeel komt.”
Hetzelfde ziet Duursma terug bij allerlei initiatieven die Covid-19 met behulp van AI op longfoto’s moesten opsporen. “Deze longfoto’s zijn allemaal van verschillende kwaliteit en er zitten veel nuances in. Dus de data is sowieso al erg rommelig. Ook hier trok een specifiek AI- systeem een conclusie op basis van iets geks. Het algoritme baseerde de diagnose op een lettertype op de röntgenfoto van bepaalde ziekenhuizen waar veel coronapatiënten lagen. Deze black box is een gevaar van AI waar we ons bewust van moeten zijn.”
Niet ieder probleem is te vatten in data
Een ander nadeel van het gebruik van kunstmatige intelligentie is volgens Duursma dat we alle problemen in data willen verzamelen. “Door deze dataficatie van het probleem reduceer je het probleem wellicht onnodig. Dit zorgt voor een technosolutionisme, waarmee je alleen nog oog hebt voor waar data te verzamelen is. Terwijl wanneer je uitzoomt niet alles in data te vatten is. Deze problemen vallen er dan buiten.”
Ook moeten we onze ogen, volgens Duursma, niet sluiten voor eventuele onbedoelde gevolgen op lange termijn die technologie of kunstmatige intelligentie kunnen hebben. Als voorbeeld noemt hij de selfie camera’s in Iphones: “De selfie camera heeft bijgedragen aan het nog meer centraal stellen van het individu. Jonge mensen gaan nu met hun favoriete Snapchat filter naar een plastisch chirurg: ‘zo wil ik eruit zien’. Dat is een onbedoeld gevolg van deze techniek, maar daar heeft geen enkele ontwikkelaar van Apple vroeger ooit bij stilgestaan.”
Duursma vindt verder dat we meer stil moeten staan bij de talenten en kwaliteiten die we ‘along the way’ kwijtraken door technologie, zeker in de zorg is dit belangrijk. “Vroeger kon ik heel goed telefoonnummers onthouden. Nu doet mijn telefoon dat voor mij. Hetzelfde geldt voor navigeren of hoofdrekenen. Het zijn skills die we door het gebruik van technologie verleren. Zeker in de zorg is het belangrijk dat we hier zorgvuldig mee omgaan. Kijk hiernaar vanuit een moreel kompas. Stel, we hebben straks een feilloos algoritme om moedervlekken te beoordelen. Mogen radiologen deze vaardigheid dan ontleren? Of leren we studenten dan niet meer naar foto’s te kijken omdat de software dat doet? Op deze vragen heb ik geen antwoord, maar dat moeten we wel met een kritische blik blijven onderzoeken.”
Diagnoses van AI worden overschat
Ook technofilosoof bij Fontys Rens van der Vorst geeft grotendeels dezelfde kritische voorbeelden als het gaat over AI in de zorg. “Over het algemeen zie je dat de diagnostische resultaten van algoritmes behoorlijk tegenvallen. Na het uitbreken van corona zag je allerlei claims, bijvoorbeeld over een algoritme dat op basis van het geluid van iemands hoest wel kon voorspellen of iemand corona had. Al die initiatieven bleken toch niet zo succesvol. We zijn geneigd om de gevolgen van technologie op korte termijn te overschatten, maar onderschatten het voor de lange termijn. Misschien is met AI ook wel zoiets aan de hand.”
Van der Vorst ziet vooral voordelen in het gebruik van AI in logistieke operaties in ziekenhuizen. “Technologie is vaak een versterker. Dus als je AI gaat inzetten om een supermarkt efficiënter te laten werken, zal een supermarkt efficiënter werken. Hetzelfde geldt voor een ziekenhuis. We hebben gezien dat software nog niet goed genoeg in staat is om diagnoses te verrichten, maar kunstmatige intelligentie kan wel efficiënter plannen. Ook in preventieve zorg kan AI op dit moment een rol spelen. Met thuismetingen en advies over gezond leven bijvoorbeeld.”
Als je dit artikel leuk vindt, lees dan ook:
