Een deel van slim zijn is weten waar je beperkingen liggen. AI-systemen zijn hier slecht in. Maar dankzij UvA-onderzoekers Rajeev Verma en Eric Nalisnick leren systemen met artificiële intelligentie (AI) wanneer het beter is om een beslissing over te laten aan een menselijke expert. Dat schrijft de Universiteit van Amsterdam in een persbericht.
Betrouwbaarheid is te trainen
Een manier om AI-toepassingen in dergelijke taken met een hoge inzet betrouwbaarder te maken, is door het AI-systeem te trainen om zowel het vertrouwen van zijn eigen beslissingen als het vertrouwen van de menselijke expert die de beslissing zou kunnen overnemen, in te schatten. “Als het risico van de menselijke expert om een fout te maken veel kleiner is dan het risico dat de AI een fout maakt, dan is het veel beter om de beslissing over te laten aan de menselijke expert,” zegt Rajeev Verma, die werkt als masterstudent in het Amsterdam Machine Learning Lab (AMLab ) van het Informatica Instituut van de UvA.
In de praktijk
Verma en Nalisnick testten hun raamwerk in drie praktische settings: het detecteren van afwijkingen op de huid, het detecteren van discriminerende opmerkingen op sociale media en het classificeren van sterrenstelsels op astronomische beelden. In het geval van het detecteren van huidproblemen is het AI-systeem getraind op tienduizenden afbeeldingen van dergelijke afwijkingen, met de door medische experts gegeven labels en met de echte labels (zoals bekend van een biopsie of een autopsie).
‘Ons systeem bleek heel goed in het voorspellen van het risico dat de deskundige, zeg maar een arts, een fout zou maken’, zegt Verma. ‘We hebben veel betere resultaten behaald dan collega’s van het MIT in eerder werk op dit gebied. In de meeste AI-toepassingen hebben we nog steeds mensen in de lus en ons werk is allemaal bedoeld om de betrouwbaarheid van AI-systemen te vergroten.’
Klik hier voor het complete persbericht.
Geselecteerd voor jou!
Innovation Origins is het Europese platform voor innovatienieuws. Naast de vele berichten van onze eigen redactie in 15 Europese landen, selecteren wij voor jou de belangrijkste persberichten van betrouwbare bronnen. Zo blijf je op de hoogte van alles wat er gebeurt in de wereld van innovatie. Ben jij of ken jij een organisatie die niet in onze lijst met geselecteerde bronnen mag ontbreken? Meld je dan bij onze redactie.
Als je dit artikel leuk vindt, lees dan ook:
