ChatGPT discrimineert bij recruitment, maar minder dan een mens

By Laio

ChatGPT kan worden ingezet in het wervings- en selectieproces. Aan de UGent is onderzocht wat de bedoelde en onbedoelde effecten hiervan kunnen zijn. Interessant is dat de mate van discriminatie door ChatGPT minder lijkt te zijn dan bij menselijke recruiters. Hoewel er geen structurele genderdiscriminatie werd gevonden, onderstreept het onderzoek het potentieel van AI om bestaande discriminatie te versterken wanneer het wordt getraind op data met vooroordelen. De bevindingen benadrukken de noodzaak van beleid en regelgeving om discriminatie in AI-toepassingen te verminderen.

Ons magazine over het brein is live!

Ons brein is een ongeëvenaard netwerk van verbindingen. Het bestaat uit 86 miljard hersencellen die gemiddeld met zo’n 10.000 andere cellen zijn verbonden. Elke keer als we iets nieuws leren – ‘hallo’ zeggen in het Chinees, een nieuwe judogreep oefenen, of een nieuw recept bereiden – komen er verbindingen bij.

De impact van ChatGPT op het selectieproces

ChatGPT, een AI-chatbot, heeft de potentie om het selectieproces van sollicitanten sterk te beïnvloeden. Deze technologie kan HR-specialisten helpen met het automatiseren van het personeelsselectieproces. Het kan de arbeidsmarkt efficiënter maken, maar tegelijkertijd kan het ook discriminatie introduceren en bestaande discriminatie versterken. Het is dus van groot belang om voorzichtig te zijn bij het gebruik van AI-technologie in selectieprocessen.

In een recent onderzoek uitgevoerd aan de UGent, werden 34.560 cv-beoordelingen door ChatGPT onderzocht, met de focus op aanwervingsdiscriminatie tijdens cv-screening. De onderzoeksopzet maakte gebruik van Nederlandstalige vacatureteksten en cv’s van fictieve kandidaten. Hierbij werd gekeken of er systemische discriminatie plaatsvindt door ChatGPT.

Discriminatie in het selectieproces

Het onderzoek toont aan dat ChatGPT discrimineert op basis van etniciteit bij het beoordelen van sollicitanten. Kandidaten met typisch Aziatische, Afrikaanse en Zwart-Amerikaanse, Arabische, Spaanse, Oost-Europese of Turkse namen kregen 14% tot 19% minder positieve reacties van ChatGPT in cv-screening. Tegelijkertijd werd er geen structurele genderdiscriminatie gevonden. Interessant is dat de mate van etnische discriminatie door ChatGPT minder lijkt te zijn dan bij menselijke recruiters.

Laat ChatGPT je cv schrijven en je wordt sneller aangenomen (pssst… je gaat ook nog eens meer verdienen)

Onderzoek door MIT Sloan promovendus bevestigt: door AI gepolijste cv’s worden op grote schaal geaccepteerd en wekken meer interesse bij werkgevers

Hoewel deze resultaten onthutsend zijn, benadrukken ze dat er een noodzaak is om beleid en regelgeving te implementeren om discriminatie in AI-toepassingen zoals ChatGPT te verminderen. De bevindingen onderstrepen ook dat organisaties verantwoordelijkheid moeten nemen voor de gevolgen van het gebruik van AI in hun processen.

Voorzorgsmaatregelen bij het gebruik van AI in sollicitatieprocedures

De Autoriteit Persoonsgegevens (AP) in Nederland stelt dat een Data Protection Impact Assessment (DPIA) vereist is bij het gebruik van AI en algoritmes. Een DPIA op AI moet specifiek aandacht hebben voor de keuze van het algoritme, bias, transparantie en de rechten van betrokkenen. Bedrijven dienen maatregelen te nemen om de risico’s van AI bij sollicitaties te verminderen, waaronder het inzetten van menselijke tussenkomst, onafhankelijke controle van het algoritme en het informeren van sollicitanten over de logica en mogelijke gevolgen.

Dit onderzoek draagt bij aan het groeiende bewijs dat AI-systemen zoals ChatGPT, hoewel potentieel nuttig in het selectieproces, voorzichtig moeten worden ingezet om discriminatie te vermijden. Hoewel AI kan helpen bij het automatiseren en efficiënter maken van het selectieproces, is het cruciaal om rekening te houden met de risico’s en ethische overwegingen.