Op zoek naar betere zorg en een oplossing voor het personeelsgebrek, openen Erasmus MC en TU Delft een AI-ethieklab voor de zorg

By Team IO

Personeelstekort en de voortdurende wens om hoogwaardige medische zorg te bieden. Dit zijn twee van de belangrijkste redenen waarom de toepassing van artificial intelligence (AI) in de zorg de komende jaren een grote vlucht zal nemen. Met de opening van het eerste AI-ethieklab voor de zorg zetten Erasmus MC en de TU Delft in op “ethisch verantwoorde en klinisch relevante AI, die een positieve impact heeft op de zorg én de zorgmedewerker”, aldus een verklaring van de universiteit.

Durven artsen in de toekomst een behandeling te stoppen op basis van informatie die een computermodel geeft? Dat is misschien wel een van de meest moeilijke vragen omtrent de toepassing van AI in de zorg. Maar er zijn natuurlijk ook tal van minder intense vragen. Zoals of een patiënt veilig een paar dagen eerder dan protocollair vastgesteld naar huis ontslagen kan worden na een operatieve ingreep, prettiger voor zowel de patiënt als de zorg. Of kan een IC-verpleegkundige met behulp van AI aan meer patiënten kwalitatief goede zorg verlenen?

Europa’s AI-paradox: lukt het om én ethisch verantwoord te zijn én innovatie te stimuleren?

In de wereld van de kunstmatige intelligentie (AI) zit Europa vaak gevangen in een paradox. Enerzijds heeft de Europese Unie (EU) zich gepositioneerd als de … Continued

Bij al deze vragen is het belangrijk  dat de onderliggende AI-modellen, die artsen ondersteunen bij het maken van zulke beslissingen, ethisch verantwoorde aanbevelingen doen. “De World Health Organisation heeft daar zes kernprincipes voor opgesteld, zoals duidelijkheid over de verantwoordelijkheid en het waarborgen van eerlijkheid en toepasbaarheid voor elke individuele patiënt,” aldus Stefan Buijsman, universitair docent ethiek aan de TU Delft. Jeroen van den Hoven, directeur van het TU Delft Digital Ethics Centre, heeft bijgedragen aan de WHO-principes. “De grote uitdaging is dat het vaak helemaal niet vanzelfsprekend is wat het precies betekent dat zo’n model eerlijk is en hoe je dat dan in de prakrijk garandeert.”

Kunnen we AI leren moreel te oordelen?

Een vraag die mij als moraalfilosoof bezighoudt, is in hoeverre artificiële intelligentie (AI) moreel kan oordelen. Om die vraag te beantwoorden, moeten we natuurlijk eerst … Continued

Veilig en met aantoonbare meerwaarde

Het Responsible and Ethical AI in Healthcare Lab (REAiHL), een samenwerking tussen Erasmus MC, de TU Delft en softwarebedrijf SAS, wil hierop antwoord geven. “De klinische expertise van Erasmus MC is hierbij leidend – zij komen met de vraagstelling en gaan uiteindelijk met de modellen werken”, zegt Buijsman. “Als TU Delft zijn wij al twee decennia lang toonaangevend op het gebied van digitale ethiek – hoe vertalen we ethische waarden naar ontwerpeisen voor ingenieurs.” Naast verantwoord ontwerp zal de TU Delft ook een belangrijke rol spelen bij het aantonen van de klinische meerwaarde van ontwikkelde AI-modellen. 

REAiHL is een ICAI lab (Innovation Center for Artificial Intelligence); een onderzoekssamenwerking tussen industriële, overheids- of non-profit-partners en kennisinstituten. ICAI-labs moeten voldoen aan eisen voor data, expertise en capaciteit. Er wordt van ze verwacht dat de uitkomsten geoperationaliseerd worden voor de echte wereld. REAIHL is het 9e ICAI-lab waarin de TU Delft samenwerkt partners en andere kennisinstituten.

“Aan de ene kant betreft dat het aantonen van de positieve impact op de patiëntenzorg,” zegt Jacobien Oosterhoff, universitair docent Artificial Intelligence for Healthcare Systems aan de TU Delft. “Voor raketten naar Mars is meer bekend hoe je die veilig in een afgelegen gebied kunt testen, maar bij AI voor patiëntenzorg hebben we nog veel open vragen hoe we deze veilig kunnen testen. Aan de andere kant gaat het om het effectief integreren van de AI-modellen in de klinische workflow, zodat het artsen en verpleegkundigen ook daadwerkelijk gaat ondersteunen. Deze open vragen hopen we in het lab uit te zoeken. Met artsen, ingenieurs, verpleegkundigen, datawetenschappers en ethici tezamen, een unieke synergie.”

Framework ontwikkelen voor AI ziekenhuisbreed

Het nieuwe AI-ethieklab is ontstaan op initiatief van internist-intensivist Michel van Genderen van het Erasmus MC. Ook Diederik Gommers, hoogleraar Intensive Care Medicine bij het Erasmus MC, is nauw betrokken.  “De initiële focus van het nieuwe AI-ethieklab is dan ook dat het best practices voor de Intensive Care moet opleveren,” zegt Buijsman. “Maar het uiteindelijke doel is dat we een generalistisch framework ontwikkelen voor hoe AI ziekenhuisbreed veilig en ethisch toegepast kan worden. We verwachten dan ook al snel met use cases van andere klinische afdelingen aan de slag te gaan.”